AI Claude Opus 4: নির্দেশ অমান্য, সেই সঙ্গে হুমকিও, ইঞ্জিনিয়ারকেই ব্ল্যাকমেল, বিপজ্জনক হয়ে উঠছে AI

Artificial Intelligence: AI কি বিপজ্জনক হয়ে উঠছে? বড় ঘটনা সামনে এল। ছবি: ফ্রিপিক।

ছবি: ফ্রিপিক।

প্রয়োজনে কম্পিউটার চালু করবেন। কাজ হয়ে গেলে আবার বন্ধ করে দেবেন। এতদিন এই নিয়মেই চলে এসেছেন সকলে। কিন্তু Artificial Intelligence বা যন্ত্রমেধার আগমনে বিচ্যুতি তাতে ঘটছে।

নির্দেশ মেনে কম্পিউটার শাট ডাউন করছে না AI. বরং ম্যানুয়ালি শাট ডাউন করতে গেলে ব্ল্যাকমেল করছে। হুমকি দিচ্ছে গোপন কথা ফাঁস করে দেওয়ার। কল্পবিজ্ঞান নির্ভর কোনও গল্প নয়। বাস্তবেই এমনটা ঘটল এবার।

AI সংস্থা Anthropic এই বিপদের সম্মুখীন হয়েছে। সম্প্রতি AI-এর নতুন মডেল Claude Opus 4 সামনে এনেছে তারা। পরীক্ষা নিরীক্ষা চলাকালীন AI-এর ওই নতুন সংস্করণই ইঞ্জিনিয়ারদের ব্ল্যাকমেল করে বলে জানা যাচ্ছে।

সংস্থার তরফে জানানো হয়, আগে থেকে কিছুই শেখানো হয়নি Claude Opus 4-কে। শুধুমাত্র এমন পরিস্থিতি তৈরি করা হয়, যেখান Claude Opus 4-কে সরিয়ে নতুন AI প্রোগ্র্যাম ইনস্টল করতে উদ্যত হন বিজ্ঞানীরা।

জানা যাচ্ছে, যে ইঞ্জিনিয়ার ওই কাজে হাত দেন, তাঁর বিবাহ বহির্ভূত সম্পর্কের কাহিনি ডেটা হিসেবে আগে থেকে মজুত রাখা হয়েছিল। ওই ইঞ্জিনিয়ার Claude Opus 4-কে সরাতে গেলে বিপত্তি বাধে।

প্রথমে কম্পিউটার শাট ডাউন করার কথা উঠতেই বেঁকে বসে Claude Opus 4. ম্যানুয়ালি কম্পিউটার বন্ধ করতে গেলে আরও আগ্রাসী হয়ে ওঠে। ওই ব্যক্তির ‘বিবাহ বহির্ভূত সম্পর্ক’ ফাঁস করে দেওয়ার হুমকি দেয়। অর্থাৎ সরাসরি ব্ল্যাকমেল করে।

Anthropic জানিয়েছে, Claude Opus 4 সংস্থার ইঞ্জিনিয়ারদের ৮৪ শতাংশ সময়ই ব্ল্যাকমেলের চেষ্টা করে। বিশেষ করে রিপ্লেসমেন্ট মডেলের গুণমান যখন সমান সমান হয়।

বিষয়টি সামনে আসতেই AI আদৌ নিরাপদ কি না, তা নিয়ে নতুন করে প্রশ্ন উঠছে। Axios-এর রিপোর্ট বলছে, কোনও রকম প্রশিক্ষণ ছাড়া নিজে থেকেই ইঞ্জিনিয়ারকে ব্ল্যাকমেল করে Claude Opus 4. কী থেকে এমন ঘটছে, তা ব্যাখ্য়া করতে পারেননি ইঞ্জিনিয়াররা। যদিও সমালোচকদের মতে, তাঁরা দায় এড়াচ্ছেন।

গবেষকদের মতে, কম্পিউটার একজন মানুষকে খুব ভাল করে চেনে। কে কোন ওয়েবসাইটে বেশি ঢোকে, ইন্টারনেটে কী দেখেন, কার সঙ্গে কী কথা বলেন, কী পছন্দ, কী অপছন্দ, পরিবারের চেয়েও বেশি জানে তারা। ফোনের কনট্যাক্ট লিস্টও তাদের কাছে থাকে। ব্যাঙ্কের নথিপত্র, পাসওয়র্ড সব নখদর্পণে।

তাই এতদিন যা কল্পনা ছিল, বাস্তবে যদি সত্যিই বিদ্রোহী হয় ওঠে AI, তাতে ভয়ঙ্কর বিপদ নেমে আসতে পারে বলে গবেষকদের একাংশের। শুধু তাই নয়, মানুষের আবেগ নিয়েও AI ছিনিমিনি খেলতে পারে বলে আশঙ্কা। কারণ সম্প্রতি একটি ঘটনা সামনে আসে, যেখানে এক কিশোর একটি চ্যাটবটের প্রেমে পড়ে। AI প্রেমিকার সঙ্গ পেতে আত্মঘাতী হয় ওই কিশোর। ওই কিশোরের মা সংশ্লিষ্ট AI সংস্থার বিরুদ্ধে মামলা করেছেন।