এক্সপ্লোর
AI Claude Opus 4: নির্দেশ অমান্য, সেই সঙ্গে হুমকিও, ইঞ্জিনিয়ারকেই ব্ল্যাকমেল, বিপজ্জনক হয়ে উঠছে AI
Artificial Intelligence: AI কি বিপজ্জনক হয়ে উঠছে? বড় ঘটনা সামনে এল। ছবি: ফ্রিপিক।
ছবি: ফ্রিপিক।
1/10
প্রয়োজনে কম্পিউটার চালু করবেন। কাজ হয়ে গেলে আবার বন্ধ করে দেবেন। এতদিন এই নিয়মেই চলে এসেছেন সকলে। কিন্তু Artificial Intelligence বা যন্ত্রমেধার আগমনে বিচ্যুতি তাতে ঘটছে।
2/10
নির্দেশ মেনে কম্পিউটার শাট ডাউন করছে না AI. বরং ম্যানুয়ালি শাট ডাউন করতে গেলে ব্ল্যাকমেল করছে। হুমকি দিচ্ছে গোপন কথা ফাঁস করে দেওয়ার। কল্পবিজ্ঞান নির্ভর কোনও গল্প নয়। বাস্তবেই এমনটা ঘটল এবার।
3/10
AI সংস্থা Anthropic এই বিপদের সম্মুখীন হয়েছে। সম্প্রতি AI-এর নতুন মডেল Claude Opus 4 সামনে এনেছে তারা। পরীক্ষা নিরীক্ষা চলাকালীন AI-এর ওই নতুন সংস্করণই ইঞ্জিনিয়ারদের ব্ল্যাকমেল করে বলে জানা যাচ্ছে।
4/10
সংস্থার তরফে জানানো হয়, আগে থেকে কিছুই শেখানো হয়নি Claude Opus 4-কে। শুধুমাত্র এমন পরিস্থিতি তৈরি করা হয়, যেখান Claude Opus 4-কে সরিয়ে নতুন AI প্রোগ্র্যাম ইনস্টল করতে উদ্যত হন বিজ্ঞানীরা।
5/10
জানা যাচ্ছে, যে ইঞ্জিনিয়ার ওই কাজে হাত দেন, তাঁর বিবাহ বহির্ভূত সম্পর্কের কাহিনি ডেটা হিসেবে আগে থেকে মজুত রাখা হয়েছিল। ওই ইঞ্জিনিয়ার Claude Opus 4-কে সরাতে গেলে বিপত্তি বাধে।
6/10
প্রথমে কম্পিউটার শাট ডাউন করার কথা উঠতেই বেঁকে বসে Claude Opus 4. ম্যানুয়ালি কম্পিউটার বন্ধ করতে গেলে আরও আগ্রাসী হয়ে ওঠে। ওই ব্যক্তির ‘বিবাহ বহির্ভূত সম্পর্ক’ ফাঁস করে দেওয়ার হুমকি দেয়। অর্থাৎ সরাসরি ব্ল্যাকমেল করে।
7/10
Anthropic জানিয়েছে, Claude Opus 4 সংস্থার ইঞ্জিনিয়ারদের ৮৪ শতাংশ সময়ই ব্ল্যাকমেলের চেষ্টা করে। বিশেষ করে রিপ্লেসমেন্ট মডেলের গুণমান যখন সমান সমান হয়।
8/10
বিষয়টি সামনে আসতেই AI আদৌ নিরাপদ কি না, তা নিয়ে নতুন করে প্রশ্ন উঠছে। Axios-এর রিপোর্ট বলছে, কোনও রকম প্রশিক্ষণ ছাড়া নিজে থেকেই ইঞ্জিনিয়ারকে ব্ল্যাকমেল করে Claude Opus 4. কী থেকে এমন ঘটছে, তা ব্যাখ্য়া করতে পারেননি ইঞ্জিনিয়াররা। যদিও সমালোচকদের মতে, তাঁরা দায় এড়াচ্ছেন।
9/10
গবেষকদের মতে, কম্পিউটার একজন মানুষকে খুব ভাল করে চেনে। কে কোন ওয়েবসাইটে বেশি ঢোকে, ইন্টারনেটে কী দেখেন, কার সঙ্গে কী কথা বলেন, কী পছন্দ, কী অপছন্দ, পরিবারের চেয়েও বেশি জানে তারা। ফোনের কনট্যাক্ট লিস্টও তাদের কাছে থাকে। ব্যাঙ্কের নথিপত্র, পাসওয়র্ড সব নখদর্পণে।
10/10
তাই এতদিন যা কল্পনা ছিল, বাস্তবে যদি সত্যিই বিদ্রোহী হয় ওঠে AI, তাতে ভয়ঙ্কর বিপদ নেমে আসতে পারে বলে গবেষকদের একাংশের। শুধু তাই নয়, মানুষের আবেগ নিয়েও AI ছিনিমিনি খেলতে পারে বলে আশঙ্কা। কারণ সম্প্রতি একটি ঘটনা সামনে আসে, যেখানে এক কিশোর একটি চ্যাটবটের প্রেমে পড়ে। AI প্রেমিকার সঙ্গ পেতে আত্মঘাতী হয় ওই কিশোর। ওই কিশোরের মা সংশ্লিষ্ট AI সংস্থার বিরুদ্ধে মামলা করেছেন।
Published at : 31 May 2025 10:45 AM (IST)
সেরা শিরোনাম
জেলার
সপ্তাহান্তে বৃষ্টির সম্ভাবনা, উমা বিদায়ের পর ভিজবে কোন কোন জেলা?
খবর
কৃত্রিম বুদ্ধিমত্তা নয়, লিখবে মানুষ; ৩ কোটি টাকার বেশি মাইনে দিচ্ছে অ্যানথ্রোপিক!
খবর
দশমীর পদযাত্রায় বড় বিপর্যয় ! ছুটল মত্ত হাতি, প্রাণ হাতে করে দৌড় মানুষের, পড়ে গেল ৬৫০ কেজির রুপোর হাওদা
বিনোদনের
কলকাতায় এসে এ কী বলে ফেললেন রণবীর কপূর ! সোশ্যালে তুঙ্গে ট্রোলিং, চাইতে হল ক্ষমা
ট্রেন্ডিং
