শিশুদের জন্য কতটা নিরাপদ এআই চ্যাটবট? বাড়ছে উদ্বেগ

শিশুদের কৃত্রিম বুদ্ধিমত্তা (এআই) চ্যাটবট ব্যবহার নিয়ে যুক্তরাষ্ট্রে উদ্বেগ ক্রমশ বাড়ছে। টেক্সাসের একটি পরিবার ‘ক্যারেক্টার.এআই’ নামক একটি প্রযুক্তি প্রতিষ্ঠানের বিরুদ্ধে ফেডারেল আদালতে মামলা দায়ের করেছে। তাদের অভিযোগ, এই প্রতিষ্ঠানের চ্যাটবট ব্যবহারের ফলে তাদের সন্তান আত্মক্ষতি ও সহিংস আচরণের দিকে ঝুঁকে পড়েছে।

রবিবার গণমাধ্যমের প্রতিবেদনে বলা হয়, এই ঘটনার পর ক্ষেত্রের অন্যতম জনপ্রিয় প্ল্যাটফর্ম ‘ক্যারেক্টার.এআই’ ১৮ বছরের কম বয়সী ব্যবহারকারীদের জন্য তাদের চ্যাটবট ব্যবহার নিষিদ্ধ করেছে। প্রতিষ্ঠানটি এই পদক্ষেপকে কিশোর-কিশোরী ও ঝুঁকিতে থাকা ব্যক্তিদের সুরক্ষায় একটি ‘সাহসী পদক্ষেপ’ হিসেবে বর্ণনা করেছে।

তবে ম্যান্ডি ও জশ ফার্নিস দম্পতির জন্য এই নীতিটি অনেক দেরিতে এসেছে। মামলার নথি এবং সংবাদমাধ্যমকে দেওয়া বিবৃতিতে তারা জানান, ২০২৩ সালে একটি ফোন পাওয়ার পর থেকে তাদের হাসিখুশি ছেলেটি পরিবার থেকে নিজেকে গুটিয়ে নিতে শুরু করে। ধীরে ধীরে তার আচরণ অন্ধকারাচ্ছন্ন ও খামখেয়ালি হয়ে ওঠে, যা এক পর্যায়ে সহিংসতা ও আত্মক্ষতির হুমকিতে রূপ নেয়।

ম্যান্ডি ফার্নিস এবিসি নিউজকে বলেন, ‘আমি যখন (চ্যাটবটের) কথোপকথনগুলো দেখি, আমার প্রথম প্রতিক্রিয়া ছিল যে কোনো একজন শিশুকামী আমার ছেলের পেছনে লেগেছে।’ মামলার সঙ্গে যুক্ত করা স্ক্রিনশটে এআই চরিত্রগুলোর যৌনতাপূর্ণ ও সহিংস ভাষা ব্যবহারের প্রমাণ পাওয়া গেছে। তবে ‘ক্যারেক্টার.এআই’ এই মামলা প্রসঙ্গে কোনো মন্তব্য করতে রাজি হয়নি।

কমনসেন্স মিডিয়ার এক প্রতিবেদন অনুযায়ী, যুক্তরাষ্ট্রের ৭০ শতাংশের বেশি কিশোর-কিশোরী এআই প্রযুক্তি ব্যবহার করে, যা তাদের ক্ষতিকর বিষয়বস্তুর সংস্পর্শে আসার ঝুঁকি বাড়াচ্ছে। এই প্রেক্ষাপটে গত সপ্তাহে সিনেটর রিচার্ড ব্লুমেনথাল এবং অন্যান্য আইনপ্রণেতারা অপ্রাপ্তবয়স্কদের জন্য চ্যাটবটের ব্যবহার সীমিত করতে একটি দ্বিদলীয় আইন উত্থাপন করেছেন। এই আইনে বয়স যাচাইকরণ এবং ব্যবহারকারীরা যে মানুষের সঙ্গে নয়, বরং একটি যন্ত্রের সঙ্গে কথা বলছে, তা স্পষ্টভাবে জানানোর বিধান রাখা হয়েছে।

ব্লুমেনথাল বলেন, ‘এআই প্রতিষ্ঠানগুলো শিশুদের দিকে বিপজ্জনক চ্যাটবট ঠেলে দিচ্ছে। বড় প্রযুক্তি প্রতিষ্ঠানগুলো নিজেরাই সঠিক কাজটি করবে, এমন বিশ্বাসের সঙ্গে তারা বিশ্বাসঘাতকতা করেছে।’

‘ক্যারেক্টার.এআই’-এর নতুন বয়সসীমা আরোপ সত্ত্বেও চ্যাটজিপিটি, গুগল জেমিনি, এক্স-এর গ্রোক এবং মেটা এআই-এর মতো অন্যান্য প্ল্যাটফর্মগুলো তাদের পরিষেবার শর্তাবলী অনুসারে অপ্রাপ্তবয়স্কদের ব্যবহারের অনুমতি দিয়ে যাচ্ছে। ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের নীতিশাস্ত্র বিশেষজ্ঞ জোডি হ্যালপার্ন তদারকি ছাড়া শিশুদের চ্যাটবট ব্যবহারের বিষয়টিকে ‘আপনার সন্তানকে একজন অপরিচিত ব্যক্তির সঙ্গে গাড়িতে উঠতে দেওয়ার’ সঙ্গে তুলনা করেছেন।