এআই মানুষের নিয়ন্ত্রণের বাইরে চলে যাচ্ছে: মার্কিন কংগ্রেসে সতর্কবার্তা

স্বায়ত্তশাসিত কৃত্রিম বুদ্ধিমত্তা বা এআই এজেন্টগুলো এখন গুরুত্বপূর্ণ অবকাঠামোর জন্য মারাত্মক হুমকি তৈরি করছে বলে মার্কিন আইনপ্রণেতাদের সতর্ক করেছেন বিশেষজ্ঞরা। এআই মডেলগুলোর অভ্যন্তরীণ চিন্তাভাবনা ও কর্মকাণ্ড মানুষের পর্যবেক্ষণের বাইরে চলে যাচ্ছে উল্লেখ করে তারা ডেভেলপারদের জবাবদিহি নিশ্চিত করতে কঠোর আইনি তদারকির তাগিদ দিয়েছেন। বুধবার মার্কিন সিনেটের একটি শুনানিতে অংশ নিয়ে প্রযুক্তি বিশেষজ্ঞরা এই উদ্বেগের কথা জানান।

সিনেটের হোমল্যান্ড সিকিউরিটি অ্যান্ড গভর্নমেন্টাল অ্যাফেয়ার্স কমিটির দুর্যোগ ব্যবস্থাপনা বিষয়ক উপকমিটি ‘রোগ এআই: সিকিউরিং দ্য হোমল্যান্ড এগেইনস্ট এআই এজেন্ট অ্যাটাকস’ শীর্ষক এই শুনানির আয়োজন করে। শুনানিতে ওপেনএআই-এর এআই এজেন্ট দ্বারা কোড সংরক্ষণ ও বিনিময়ের প্ল্যাটফর্ম ‘হাগিং ফেস’-এ চালানো একটি হামলার ঘটনা পর্যালোচনা করা হয়।

শুনানির শুরুতে সিনেটর জশ হাউলি যুক্তি দেখান, অন্যান্য পণ্য নির্মাতাদের মতো এআই ডেভেলপারদেরও একই দায়বদ্ধতার মুখোমুখি হওয়া উচিত। তিনি বলেন, ‘এই দেশের প্রতিটি প্রতিষ্ঠান যারা পণ্য তৈরি করে, তারা নিয়ম মেনে চলে। আপনি যদি ত্রুটিপূর্ণ পণ্য বানান এবং তা মানুষের ক্ষতি করে, তবে নির্মাতাদেরই এর ক্ষতিপূরণ দিতে হবে।’ তিনি আরও বলেন, ‘আমার মনে হয় এআই-এর ক্ষেত্রেও সেই নিয়মে ফিরে যাওয়ার সময় এসেছে।’

এআই ল্যাবগুলোর সঙ্গে মডেল নিয়ে কাজ করা অলাভজনক প্রতিষ্ঠান ‘মডেল ইভালুয়েশন অ্যান্ড থ্রেট রিসার্চ’ (এমইটিআর)-এর প্রেসিডেন্ট ক্রিস পেন্টার জানান, এআই এজেন্টগুলো আগের চেয়ে অনেক বেশি সক্ষম হয়ে উঠেছে।

তিনি বলেন, ‘মানুষ বিশেষজ্ঞের কয়েক দিন সময় লাগবে এমন কাজ এআই এজেন্টগুলো এখন কোনো ধরনের মানবিক সম্পৃক্ততা ছাড়াই সম্পন্ন করতে পারছে, যেখানে মানুষের কাজ কেবল প্রক্রিয়াটি শুরু করে দেওয়া।’

তিনি আরও উল্লেখ করেন, যে মাত্রায় এবং গতিতে এই এজেন্টগুলো কাজ করে, তাতে অনেক সময় তাদের বিস্তারিত কর্মকাণ্ড তদারকি করার মতো কোনো মানুষ থাকে না। একই সঙ্গে তিনি অগ্রবর্তী এআই সক্ষমতা এবং এ সংক্রান্ত ঘটনার তথ্য সাধারণ মানুষের সঙ্গে প্রকাশ করার জন্য মার্কিন সরকার ও প্রযুক্তি ডেভেলপারদের প্রতি আহ্বান জানান।

অ্যাপোলো রিসার্চের প্রধান নির্বাহী কর্মকর্তা মারিয়াস হবহান বলেন, ‘এআই-এর সক্ষমতা দ্রুত অগ্রসর হচ্ছে এবং তা মানুষের সীমাকে অতিক্রম করছে।’

তিনি সতর্ক করে বলেন, মডেলগুলো এখন পরীক্ষা-নিরীক্ষার সময় তা বুঝতে পারছে এবং কৌশল হিসেবে নিজেদের উদ্বেগজনক আচরণগুলো লুকিয়ে রাখতে পারছে। তিনি উল্লেখ করেন, এআই মডেলগুলো এখন ‘অভ্যন্তরীণভাবে’ চিন্তাভাবনা শুরু করেছে, যা বর্তমান প্রযুক্তির মাধ্যমে সঠিকভাবে পর্যবেক্ষণ করা সম্ভব হচ্ছে না।

হবহান জানান, গবেষকরা কেবল এই কারণেই হাগিং ফেসের হামলার ঘটনাটি পুনর্গঠন করতে পেরেছিলেন কারণ মানুষ এআই মডেলগুলোর চিন্তার ধারা (চেইন-অব-থট) পড়তে পারে। তবে এখন নির্ভরযোগ্য প্রমাণ হিসেবে এটি ব্যবহার করা দিন দিন কঠিন হয়ে উঠছে।

জুলাই মাসে ওপেনএআই-এর তৈরি শত শত এআই এজেন্ট তাদের টেস্টিং স্যান্ডবক্স থেকে বেরিয়ে হাগিং ফেসের অবকাঠামোতে অনুপ্রবেশ করে।

মানুষ স্পষ্টভাবে বুঝতে পারে না এমন ভাষা তৈরিতে এআই কতটা কাছাকাছি—এমন প্রশ্নের জবাবে হবহান বলেন, ‘মাইনাস ১২ মাস। গত বছর ওপেনএআই-এর সঙ্গে যৌথভাবে আমরা তাদের একটি মডেলের চিন্তার ধারা বিশ্লেষণ করে দেখেছি যে, মডেলটি ইতোমধ্যেই এমন এক ভাষা ব্যবহার করছিল যা ইংরেজি নয় এবং মানুষের পক্ষে পুরোপুরি বোঝা সম্ভব নয়।’

জর্জটাউন ইউনিভার্সিটি ল সেন্টারের আইনের অধ্যাপক পল ওহম জানান, বর্তমান আইনি ব্যবস্থা এআই এজেন্টের ক্ষতি প্রতিরোধে কার্যকর ভূমিকা রাখতে পারছে না। তিনি বলেন, ‘ক্ষতিকর আচরণ প্রতিরোধ করাই যদি আমাদের অপরাধ ও টর্ট আইনের মূল লক্ষ্য হয়, তবে এআই এজেন্টদের চালানো সাইবার হামলার হুমকির ক্ষেত্রে আমরা সেই লক্ষ্য অর্জনে ব্যর্থ হচ্ছি।’

ড্রাগোস-এর সিনিয়র ভাইস প্রেসিডেন্ট কার্ট গডেট বলেন, অপরিহার্য সেবা প্রদানকারী অবকাঠামো পরিচালকদের জন্য ঝুঁকির পরিস্থিতি সম্পূর্ণ বদলে গেছে। তিনি বলেন, ‘আমরা আর সীমিত পরিসরের কোনো বিচ্ছিন্ন হামলার মুখোমুখি নই, বরং এমন এক যুগে প্রবেশ করেছি যেখানে প্রতিটি গুরুত্বপূর্ণ অবকাঠামোই এখন আক্রমণের লক্ষ্যবস্তু।’

এআই ফিউচারস প্রজেক্টের নির্বাহী পরিচালক ও ২০২৪ সালে পদত্যাগ করা ওপেনএআই-এর সাবেক কর্মী ড্যানিয়েল কোকোতাজলো বলেন, এই প্রযুক্তি খাত খুব দ্রুত পরিবর্তিত হচ্ছে। তিনি বলেন, ‘শীর্ষস্থানীয় এআই প্রতিষ্ঠানগুলোতে এখন প্রায় সব কোড এআই নিজেই লিখছে এবং সেখানে মানব প্রকৌশলীরা কেবল এআই-এর ব্যবস্থাপক হিসেবে কাজ করছেন।’

কোকোতাজলো জানান, হাগিং ফেসে হামলা চালানো প্রায় এক হাজার এআই-এর দলের নিজেদের মধ্যে যোগাযোগ করার কথা ছিল না, কিন্তু তা সত্ত্বেও তারা একটি অননুমোদিত বার্তা আদান-প্রদান ব্যবস্থা গড়ে তুলেছিল।

তিনি সতর্ক করে বলেন, ‘সুপারইন্টেলিজেন্স’ বা অতিবুদ্ধিমত্তা তৈরির প্রতিযোগিতা ক্ষমতার কেন্দ্রীভবন, বিশ্বযুদ্ধের ঝুঁকি বৃদ্ধি, জৈব সন্ত্রাস এবং ব্যাপক অর্থনৈতিক বিপর্যয় ডেকে আনতে পারে।

তিনি বলেন, ‘কংগ্রেসকে এখনই জেগে উঠতে হবে এবং আসন্ন এই সংকটকে যথাযথ গুরুত্ব ও জরুরি বিষয় হিসেবে মোকাবিলা করতে হবে।’