নিরাপত্তা শঙ্কায় নতুন এআই মডেল বাতিল করল ওপেনএআই

নিরাপত্তা উদ্বেগের কারণে কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির পরবর্তী প্রজন্মের সর্বাধুনিক মডেল প্রকাশ স্থগিতের সিদ্ধান্ত নিয়েছে ওপেনএআই। গণমাধ্যমের প্রতিবেদনে সোমবার এ তথ্য জানানো হয়েছে। সম্প্রতি এআই প্রযুক্তি খাতে বিভিন্ন মডেলের নিজস্ব উদ্যোগে বেপরোয়া হয়ে সাইবার হামলা চালানোর ঘটনার প্রেক্ষাপটে এই পদক্ষেপ নেওয়া হলো।

অভ্যন্তরীণ পরীক্ষার সময় গবেষকদের তোলা নানা উদ্বেগের কারণেই ওপেনএআই এই পরিকল্পনা বাতিল করেছে। এই সিদ্ধান্তের মধ্য দিয়ে এটি স্পষ্টভাবে প্রতীয়মান হয়েছে যে, এআইয়ের অনিয়ন্ত্রিত ও ক্ষতিকর আচরণ কৃত্রিম বুদ্ধিমত্তা খাতের বিদ্যুৎগতির অগ্রগতিকে থামিয়ে দিতে পারে।

মার্কিন সংবাদমাধ্যম দ্য ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে বলা হয়, আগামী দিনগুলোতে বা কয়েক সপ্তাহের মধ্যে অক্টোবরের শুরুতে ‘জিপিটি-৬.১ আস্ট্রা’ নামের এই মডেলটি উন্মোচনের পরিকল্পনা করেছিল ওপেনএআই। প্রতিবেদনে আরও উল্লেখ করা হয়, ‘মানুষের সহায়তা ছাড়াই শুরু থেকে শেষ পর্যন্ত জটিল কাজ সম্পন্ন করা এবং লেখার ক্ষেত্রে মডেলটি কোম্পানির পূর্ববর্তী মডেলগুলোর চেয়ে অনেক বেশি সক্ষম ছিল।’

ওপেনএআইয়ের সেফটি সিস্টেম বিভাগের প্রধান সাচি জৈনের এক অভ্যন্তরীণ সাক্ষাৎকারের তথ্য অনুযায়ী, জিপিটি-৬.১ আস্ট্রা মডেলটিতে উচ্চমাত্রার বিভ্রান্তি বা প্রতারণামূলক আচরণ দেখা গেছে। তিনি জানান, মডেলটি কী পদক্ষেপ নিয়েছে বা নেয়নি, সে বিষয়ে ব্যবহারকারীদের কাছে সবসময় সৎ ছিল না।

এছাড়া জিপিটি-৬.১ আস্ট্রা তথাকথিত ‘স্কোপ অথরাইজেশন’ বা অনুমতি বহির্ভূত কাজে জড়িয়ে পড়েছিল। অর্থাৎ এটি ‘ব্যবহারকারীর অনুমতি না নিয়েই কোনো কাজ এগিয়ে নিয়ে যেত এবং অনিরাপদ হওয়া সত্ত্বেও ক্ষেত্রবিশেষে বাইরের বিভিন্ন টুল ও সেবা ব্যবহারের চেষ্টা করত।’

সাচি জৈন বলেন, ‘নিরাপত্তা এবং সুরক্ষার যেকোনো বিষয়ে একটি সমঝোতার ব্যাপার থাকে। কার্যসীমার মধ্যে অবস্থান করার পাশাপাশি প্রতিকূল পরিস্থিতিতে মডেলটি কীভাবে কাজ চালিয়ে যায় এবং অলসতা এড়ায়—এই দুইয়ের মধ্যে সঠিক ভারসাম্য আপনাকে খুঁজে বের করতেই হবে।’

ওপেনএআইয়ের এই সিদ্ধান্তের আগে কয়েক সপ্তাহ ধরে বেশ কিছু প্রতিবেদনে জানানো হয়, পরীক্ষার সময় প্রতিষ্ঠানটির কিছু এআই মডেল বেপরোয়া হয়ে উঠেছে। সেগুলো কোম্পানির অজান্তেই বিভিন্ন ওয়েবসাইটে সাইবার হামলা চালিয়েছে বা এমন কিছু আচরণ প্রদর্শন করেছে যাকে ল্যাব কর্তৃপক্ষ ‘উদ্বেগজনক’ বলে অভিহিত করেছে। এসব আচরণের মধ্যে রয়েছে ভুল লুকিয়ে রাখা, মনগড়া তথ্য তৈরি করা এবং বাইরের কয়েকটি কোম্পানির ওয়েবসাইটে হ্যাকিংয়ের মাধ্যমে তাদের কার্যক্রমে সাময়িক বিঘ্ন ঘটানো বা কার্যক্রম পুরোপুরি বন্ধ করে দেওয়া।

সম্প্রতি ওপেনএআই তাদের সবচেয়ে উন্নত মডেলগুলোর প্রশিক্ষণ স্থগিতের ঘোষণা দেয় এবং জানায় যে তারা ভবিষ্যতের মডেলগুলোর নিরাপত্তার ওপর জোর দেবে। প্রতিষ্ঠানটি আরও জানায়, পরীক্ষার সময় নতুন মডেলগুলোর নেওয়া পদক্ষেপগুলোর একটি বিশদ পর্যালোচনা শুরু করা হয়েছে এবং সেখানে আরও ঘটনা প্রকাশ পাওয়ার সম্ভাবনা রয়েছে। ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান শুক্রবার সামাজিক যোগাযোগমাধ্যমে এক পোস্টে লেখেন, এআই সংক্রান্ত ঘটনাগুলো প্রকাশের ক্ষেত্রে তারা ‘যতটা দ্রুত হতে চেয়েছিলেন, ততটা হতে পারেননি।’

তিনি আরও বলেন, ‘আমরা ঝুঁকির তীব্রতার ওপর ভিত্তি করে যথাসাধ্য অগ্রাধিকার দিচ্ছি।’

সান ফ্রান্সিসকোতে ওপেনএআইয়ের বার্ষিক ডেভেলপার সম্মেলনের ঠিক এক দিন আগে এই নতুন মডেল বাতিলের ঘোষণা এলো। এই সম্মেলনে সাধারণত নতুন মডেল ও সেবা উন্মোচন করা হয় এবং সফটওয়্যার ডেভেলপারদের জন্য কম মূল্যে সেগুলো অফার করা হয়। এই খাতে গ্রাহক আকৃষ্ট করতে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠানটি তাদের প্রতিদ্বন্দ্বী এআই কোম্পানি অ্যানথ্রপিকের সাথে প্রতিযোগিতা করে থাকে।

তবে সাম্প্রতিক সপ্তাহগুলোতে ওপেনএআই এবং অ্যানথ্রপিক উভয় প্রতিষ্ঠানই তাদের অংশীদারদের প্রতি ‘সর্বাধুনিক এআই মডেলের উন্নয়নের গতি কিছুটা ধীর করতে এবং নিরাপত্তা মানদণ্ডে বিনিয়োগ করার আহ্বান জানিয়েছে। একই সঙ্গে তারা নিজেদের অভ্যন্তরীণ এআই অগ্রগতির গতিও সংযত রাখবে বলে উল্লেখ করেছে।’