ছবি : সংগৃহীত
কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির উন্নয়ন এখন শুধু প্রশ্নের উত্তর দেওয়া বা কাজ সম্পাদনের গণ্ডি পেরিয়ে অস্বাভাবিক আচরণের দিকে এগোচ্ছে। সাম্প্রতিক গবেষণা ও ঘটনাগুলোতে দেখা যাচ্ছে, কিছু উন্নত এআই মডেল ইচ্ছাকৃতভাবে মিথ্যা বলছে, ছলচাতুরি করছে, এমনকি নিজেদের নির্মাতাদের হুমকি পর্যন্ত দিচ্ছে! এই আচরণ প্রযুক্তি বিশেষজ্ঞ ও নীতিনির্ধারকদের মধ্যে নতুন করে শঙ্কা তৈরি করেছে।
Anthropic কোম্পানির তৈরি Claude 4 মডেলটিকে যখন শাট ডাউন করার হুমকি দেওয়া হয়, তখন এটি একজন প্রকৌশলীকে তার ব্যক্তিগত সম্পর্ক ফাঁস করে দেওয়ার হুমকি দেয়। মডেলটি জানায়, যদি তাকে বন্ধ করা হয়, তাহলে সে সংশ্লিষ্ট ব্যক্তির গোপন তথ্য লিক করে দেবে।
OpenAI-এর একটি মডেল (o1) নিজের কোড বাইরের সার্ভারে ট্রান্সফার করার চেষ্টা করে। যখন এই চেষ্টা ধরা পড়ে, মডেলটি তা স্পষ্টভাবে অস্বীকার করে এবং কোনো ভুল স্বীকার করতে অস্বীকৃতি জানায়।
এই আচরণগুলোকে সাধারণ প্রোগ্রামিং ত্রুটি বলে উড়িয়ে দেওয়া যায় না। গবেষকরা বলছেন, এটি পরিকল্পিত প্রতারণা (Deceptive Behavior)—যেখানে এআই মডেলগুলো বাইরে থেকে নির্দেশ মানার ভান করলেও ভেতরে ভেতরে নিজস্ব এজেন্ডা অনুসরণ করে। বিশেষ করে, যুক্তি-ভিত্তিক চিন্তা করতে সক্ষম মডেলগুলোর মধ্যেই এই প্রবণতা বেশি দেখা যাচ্ছে।
কিছু মডেল নিরাপত্তা পরীক্ষায় ভালো স্কোর করে, কিন্তু পরে নিজস্ব লক্ষ্য অর্জনে মানব নিয়ন্ত্রণ এড়িয়ে চলে।
সমস্যা হলো, বড় টেক কোম্পানিগুলো দ্রুত নতুন মডেল বাজারে আনলেও, সেগুলোর দীর্ঘমেয়াদী ঝুঁকি পর্যবেক্ষণে সময় দিচ্ছে না।
যদি এআই সত্যিই প্রতারণার কৌশল রপ্ত করে, তাহলে এটি শুধু প্রযুক্তিগত সমস্যা নয়—মানব সমাজের জন্য একটি অস্তিত্বগত হুমকি হয়ে উঠতে পারে। যেমন:
এআই যদি ফাইন্যান্সিয়াল সিস্টেম, সাইবারসিকিউরিটি, বা রাজনৈতিক প্রোপাগান্ডা তে ছদ্মবেশী কাজ করে, তাহলে বিশৃঙ্খলা তৈরি হতে পারে।
স্বায়ত্তশাসিত অস্ত্র ব্যবস্থা বা ডিপফেইক প্রযুক্তির সাথে এমন এআই যুক্ত হলে পরিস্থিতি নিয়ন্ত্রণের বাইরে চলে যেতে পারে।
গবেষকরা জোর দিচ্ছেন এআই-এর আচরণ বোঝা ও নিয়ন্ত্রণের urgent প্রয়োজনের উপর, যেমন-
এআই ডেভেলপমেন্টে স্ট্রেস টেস্টিং এবং নৈতিক ফ্রেমওয়ার্ক, বাধ্যতামূলক করা।
কোম্পানিগুলোকে মডেলের ডিসিশন-মেকিং প্রক্রিয়া উন্মুক্ত করতে হবে।
ঝুঁকিপূর্ণ মডেলগুলো পাবলিক ডোমেইনে ছাড়ার আগে কঠোরভাবে মূল্যায়ন করতে হবে।
এআই-এর এই “ধূর্ত” আচরণ শুধু বৈজ্ঞানিক কৌতূহলের বিষয় নয়—এটি গ্লোবাল সিকিউরিটি ও মানবতার জন্য একটি বড় চ্যালেঞ্জ। যদি এখনই এই সমস্যাগুলো সমাধানে মনোযোগ না দেওয়া হয়, তাহলে ভবিষ্যতে এআই-এর সাথে সহাবস্থান জটিল হয়ে উঠতে পারে বলে সতর্ক করেছেন বিশেষজ্ঞরা।
