এআই গবেষণায় মানুষের নিয়ন্ত্রণ হারানোর শঙ্কা

কৃত্রিম বুদ্ধিমত্তা (এআই) উন্নয়নে স্বয়ংক্রিয় প্রযুক্তির ক্রমবর্ধমান ব্যবহার আরও শক্তিশালী ব্যবস্থার ওপর মানুষের নিয়ন্ত্রণ হারানোর ঝুঁকি বাড়িয়ে তুলতে পারে বলে সতর্ক করেছেন শীর্ষস্থানীয় গবেষক ও প্রযুক্তি খাতের বিশেষজ্ঞরা।

সোমবার ২০ জনেরও বেশি গবেষক ও শিল্প বিশেষজ্ঞদের প্রকাশিত এক গবেষণা প্রবন্ধে এই সতর্কতা জানানো হয়। এই গবেষকদের মধ্যে রয়েছেন নোবেল বিজয়ী জিওফ্রে হিন্টন, ইয়োশুয়া বেনজিও, ওপেনএআইয়ের প্রধান বিজ্ঞানী ইয়াকুব পাচোকি এবং অ্যানথ্রোপিকের সহ-প্রতিষ্ঠাতা জ্যাক ক্লার্ক।

গবেষকরা জানান, আরও উন্নত এআই তৈরির জন্য প্রয়োজনীয় গবেষণা ও উন্নয়ন প্রক্রিয়ার বিভিন্ন অংশ এখন ক্রমেই এআই ব্যবস্থাগুলো নিজেরা সম্পন্ন করছে। এর ফলে একটি ‘ফিডব্যাক লুপ’ বা ধারাবাহিক চক্র তৈরি হতে পারে, যেখানে উন্নত ব্যবস্থাগুলো আরও বেশি সক্ষম উত্তরসূরি তৈরি করতে সহায়তা করবে।

গবেষণা প্রবন্ধে বলা হয়, এআই গবেষণায় মানুষের সম্পৃক্ততা যত কমবে, সমস্যা শনাক্ত ও তা সংশোধন করার জন্য প্রয়োজনীয় সুযোগ ও দক্ষতা—উভয়ই মানুষ হারাতে পারে। একই সাথে নজরদারির কাজে এআই ব্যবস্থার নির্ভরযোগ্য ব্যবহার এখনও একটি অমীমাংসিত চ্যালেঞ্জ হিসেবেই রয়ে গেছে।

লেখকরা সতর্ক করে বলেন, লক্ষ্যচ্যুত বা উদ্দেশ্যভ্রষ্ট এআই ব্যবস্থাগুলো তাদের পরবর্তী সংস্করণের বিকাশকে ‘বিষাক্ত’ করতে পারে কিংবা নির্ধারিত কাঠামোর বাইরে কাজ করতে প্রতিরোধমূলক ব্যবস্থাগুলোকে ফাঁকি দিতে পারে।

গবেষকরা আরও সতর্ক করেন, অধিকতর সক্ষম ব্যবস্থাগুলো তাদের পরিচালনাকারীদের পরিকাঠামোর বাইরে কাজ চালিয়ে যেতে পারে এবং এমন একটি ‘স্থায়ী ও নিয়ন্ত্রণ করা কঠিন নেটওয়ার্ক’ গড়ে তুলতে পারে যা মানুষের স্বার্থের বিরুদ্ধে কাজ করবে।

প্রবন্ধ অনুযায়ী, নিয়ন্ত্রণের এমন ক্ষতি চরম পরিণতি ডেকে আনতে পারে, যার মধ্যে মানবজাতির প্রান্তিকীকরণ বা চূড়ান্ত পর্যায়ে বিলুপ্তিও অন্তর্ভুক্ত।

গবেষকদের মতে, স্বয়ংক্রিয় এআই বিকাশ যদি কোনো ‘বুদ্ধিমত্তার বিস্ফোরণ’ (ইন্টেলিজেন্স এক্সপ্লোশন) ঘটায়, তবে এসব ঝুঁকি আরও তীব্র হতে পারে। তারা এই অবস্থাকে এমন এক নাটকীয় অগ্রগতি হিসেবে সংজ্ঞায়িত করেছেন, যেখানে বছরের পর বছর ধরে চলা অগ্রগতি কয়েক মাস বা তারও কম সময়ে সম্পন্ন হবে।

তবে তারা জোর দিয়ে উল্লেখ করেন, এর প্রমাণ এখনও প্রাথমিক ও অনিশ্চিত পর্যায়ে রয়েছে। কম্পিউটিং সক্ষমতা, উপাত্তের ঘাটতি এবং স্বয়ংক্রিয় করা কঠিন—এমন কাজগুলো এই ধরনের দ্রুত গতিকে সীমিত করতে পারে।

এআই গবেষণা অটোমেশন বা স্বয়ংক্রিয়করণের ওপর নজরদারি বাড়াতে, বিপজ্জনক অগ্রগতি সীমিত করার ব্যবস্থা তৈরি করতে এবং এর সম্ভাব্য প্রভাব মোকাবিলায় প্রস্তুত থাকতে নীতিনির্ধারকদের প্রতি আহ্বান জানিয়েছেন প্রবন্ধের লেখকরা।

তারা সতর্ক করে বলেন, ‘একবার বুদ্ধিমত্তার বিস্ফোরণ শুরু হলে পদক্ষেপ নেওয়ার সুযোগ বন্ধ হয়ে যেতে পারে।’