এক্সপ্লোর

AI Claude Opus 4: নির্দেশ অমান্য, সেই সঙ্গে হুমকিও, ইঞ্জিনিয়ারকেই ব্ল্যাকমেল, বিপজ্জনক হয়ে উঠছে AI

Artificial Intelligence: AI কি বিপজ্জনক হয়ে উঠছে? বড় ঘটনা সামনে এল। ছবি: ফ্রিপিক।

Artificial Intelligence: AI কি বিপজ্জনক হয়ে উঠছে? বড় ঘটনা সামনে এল। ছবি: ফ্রিপিক।

ছবি: ফ্রিপিক।

1/10
প্রয়োজনে কম্পিউটার চালু করবেন। কাজ হয়ে গেলে আবার বন্ধ করে দেবেন। এতদিন এই নিয়মেই চলে এসেছেন সকলে। কিন্তু Artificial Intelligence বা যন্ত্রমেধার আগমনে বিচ্যুতি তাতে ঘটছে।
প্রয়োজনে কম্পিউটার চালু করবেন। কাজ হয়ে গেলে আবার বন্ধ করে দেবেন। এতদিন এই নিয়মেই চলে এসেছেন সকলে। কিন্তু Artificial Intelligence বা যন্ত্রমেধার আগমনে বিচ্যুতি তাতে ঘটছে।
2/10
নির্দেশ মেনে কম্পিউটার শাট ডাউন করছে না AI. বরং ম্যানুয়ালি শাট ডাউন করতে গেলে ব্ল্যাকমেল করছে। হুমকি দিচ্ছে গোপন কথা ফাঁস করে দেওয়ার। কল্পবিজ্ঞান নির্ভর কোনও গল্প নয়। বাস্তবেই এমনটা ঘটল এবার।
নির্দেশ মেনে কম্পিউটার শাট ডাউন করছে না AI. বরং ম্যানুয়ালি শাট ডাউন করতে গেলে ব্ল্যাকমেল করছে। হুমকি দিচ্ছে গোপন কথা ফাঁস করে দেওয়ার। কল্পবিজ্ঞান নির্ভর কোনও গল্প নয়। বাস্তবেই এমনটা ঘটল এবার।
3/10
AI সংস্থা Anthropic এই বিপদের সম্মুখীন হয়েছে। সম্প্রতি AI-এর নতুন মডেল Claude Opus 4 সামনে এনেছে তারা। পরীক্ষা নিরীক্ষা চলাকালীন AI-এর ওই নতুন সংস্করণই ইঞ্জিনিয়ারদের ব্ল্যাকমেল করে বলে জানা যাচ্ছে।
AI সংস্থা Anthropic এই বিপদের সম্মুখীন হয়েছে। সম্প্রতি AI-এর নতুন মডেল Claude Opus 4 সামনে এনেছে তারা। পরীক্ষা নিরীক্ষা চলাকালীন AI-এর ওই নতুন সংস্করণই ইঞ্জিনিয়ারদের ব্ল্যাকমেল করে বলে জানা যাচ্ছে।
4/10
সংস্থার তরফে জানানো হয়, আগে থেকে কিছুই শেখানো হয়নি Claude Opus 4-কে। শুধুমাত্র এমন পরিস্থিতি তৈরি করা হয়, যেখান Claude Opus 4-কে সরিয়ে নতুন AI প্রোগ্র্যাম ইনস্টল করতে উদ্যত হন বিজ্ঞানীরা।
সংস্থার তরফে জানানো হয়, আগে থেকে কিছুই শেখানো হয়নি Claude Opus 4-কে। শুধুমাত্র এমন পরিস্থিতি তৈরি করা হয়, যেখান Claude Opus 4-কে সরিয়ে নতুন AI প্রোগ্র্যাম ইনস্টল করতে উদ্যত হন বিজ্ঞানীরা।
5/10
জানা যাচ্ছে, যে ইঞ্জিনিয়ার ওই কাজে হাত দেন, তাঁর বিবাহ বহির্ভূত সম্পর্কের কাহিনি ডেটা হিসেবে আগে থেকে মজুত রাখা হয়েছিল। ওই ইঞ্জিনিয়ার Claude Opus 4-কে সরাতে গেলে বিপত্তি বাধে।
জানা যাচ্ছে, যে ইঞ্জিনিয়ার ওই কাজে হাত দেন, তাঁর বিবাহ বহির্ভূত সম্পর্কের কাহিনি ডেটা হিসেবে আগে থেকে মজুত রাখা হয়েছিল। ওই ইঞ্জিনিয়ার Claude Opus 4-কে সরাতে গেলে বিপত্তি বাধে।
6/10
প্রথমে কম্পিউটার শাট ডাউন করার কথা উঠতেই বেঁকে বসে Claude Opus 4. ম্যানুয়ালি কম্পিউটার বন্ধ করতে গেলে আরও আগ্রাসী হয়ে ওঠে। ওই ব্যক্তির ‘বিবাহ বহির্ভূত সম্পর্ক’ ফাঁস করে দেওয়ার হুমকি দেয়। অর্থাৎ সরাসরি ব্ল্যাকমেল করে।
প্রথমে কম্পিউটার শাট ডাউন করার কথা উঠতেই বেঁকে বসে Claude Opus 4. ম্যানুয়ালি কম্পিউটার বন্ধ করতে গেলে আরও আগ্রাসী হয়ে ওঠে। ওই ব্যক্তির ‘বিবাহ বহির্ভূত সম্পর্ক’ ফাঁস করে দেওয়ার হুমকি দেয়। অর্থাৎ সরাসরি ব্ল্যাকমেল করে।
7/10
Anthropic জানিয়েছে, Claude Opus 4 সংস্থার ইঞ্জিনিয়ারদের ৮৪ শতাংশ সময়ই ব্ল্যাকমেলের চেষ্টা করে। বিশেষ করে রিপ্লেসমেন্ট মডেলের গুণমান যখন সমান সমান হয়।
Anthropic জানিয়েছে, Claude Opus 4 সংস্থার ইঞ্জিনিয়ারদের ৮৪ শতাংশ সময়ই ব্ল্যাকমেলের চেষ্টা করে। বিশেষ করে রিপ্লেসমেন্ট মডেলের গুণমান যখন সমান সমান হয়।
8/10
বিষয়টি সামনে আসতেই AI আদৌ নিরাপদ কি না, তা নিয়ে নতুন করে প্রশ্ন উঠছে।  Axios-এর রিপোর্ট বলছে, কোনও রকম প্রশিক্ষণ ছাড়া নিজে থেকেই ইঞ্জিনিয়ারকে ব্ল্যাকমেল করে Claude Opus 4. কী থেকে এমন ঘটছে, তা ব্যাখ্য়া করতে পারেননি ইঞ্জিনিয়াররা। যদিও সমালোচকদের মতে, তাঁরা দায় এড়াচ্ছেন।
বিষয়টি সামনে আসতেই AI আদৌ নিরাপদ কি না, তা নিয়ে নতুন করে প্রশ্ন উঠছে। Axios-এর রিপোর্ট বলছে, কোনও রকম প্রশিক্ষণ ছাড়া নিজে থেকেই ইঞ্জিনিয়ারকে ব্ল্যাকমেল করে Claude Opus 4. কী থেকে এমন ঘটছে, তা ব্যাখ্য়া করতে পারেননি ইঞ্জিনিয়াররা। যদিও সমালোচকদের মতে, তাঁরা দায় এড়াচ্ছেন।
9/10
গবেষকদের মতে, কম্পিউটার একজন মানুষকে খুব ভাল করে চেনে। কে কোন ওয়েবসাইটে বেশি ঢোকে, ইন্টারনেটে কী দেখেন, কার সঙ্গে কী কথা বলেন, কী পছন্দ, কী অপছন্দ, পরিবারের চেয়েও বেশি জানে তারা। ফোনের কনট্যাক্ট লিস্টও তাদের কাছে থাকে। ব্যাঙ্কের নথিপত্র, পাসওয়র্ড সব নখদর্পণে।
গবেষকদের মতে, কম্পিউটার একজন মানুষকে খুব ভাল করে চেনে। কে কোন ওয়েবসাইটে বেশি ঢোকে, ইন্টারনেটে কী দেখেন, কার সঙ্গে কী কথা বলেন, কী পছন্দ, কী অপছন্দ, পরিবারের চেয়েও বেশি জানে তারা। ফোনের কনট্যাক্ট লিস্টও তাদের কাছে থাকে। ব্যাঙ্কের নথিপত্র, পাসওয়র্ড সব নখদর্পণে।
10/10
তাই এতদিন যা কল্পনা ছিল, বাস্তবে যদি সত্যিই বিদ্রোহী হয় ওঠে AI, তাতে ভয়ঙ্কর বিপদ নেমে আসতে পারে বলে গবেষকদের একাংশের। শুধু তাই নয়, মানুষের আবেগ নিয়েও AI ছিনিমিনি খেলতে পারে বলে আশঙ্কা। কারণ সম্প্রতি একটি ঘটনা সামনে আসে, যেখানে এক কিশোর একটি চ্যাটবটের প্রেমে পড়ে। AI প্রেমিকার সঙ্গ পেতে আত্মঘাতী হয় ওই কিশোর। ওই কিশোরের মা সংশ্লিষ্ট AI সংস্থার বিরুদ্ধে মামলা করেছেন।
তাই এতদিন যা কল্পনা ছিল, বাস্তবে যদি সত্যিই বিদ্রোহী হয় ওঠে AI, তাতে ভয়ঙ্কর বিপদ নেমে আসতে পারে বলে গবেষকদের একাংশের। শুধু তাই নয়, মানুষের আবেগ নিয়েও AI ছিনিমিনি খেলতে পারে বলে আশঙ্কা। কারণ সম্প্রতি একটি ঘটনা সামনে আসে, যেখানে এক কিশোর একটি চ্যাটবটের প্রেমে পড়ে। AI প্রেমিকার সঙ্গ পেতে আত্মঘাতী হয় ওই কিশোর। ওই কিশোরের মা সংশ্লিষ্ট AI সংস্থার বিরুদ্ধে মামলা করেছেন।

আরও জানুন বিজ্ঞান

Sponsored Links by Taboola

লাইভ টিভি

ABP আনন্দ
ABP અસ્મિતા
ABP ਸਾਂਝਾ
ABP न्यूज़
ABP माझा
ABP நாடு
POWERED BY
sponsor

সেরা শিরোনাম

Sonia Gandhi Memoir: ‘মুখটা আর দেখতে পাব না? চোখ দু’টো…ডাক্তার বললেন, কিচ্ছু অক্ষত নেই’, রাজীব গাঁধীকে শেষবার দেখতে চেয়েছিলেন সনিয়া গাঁধী
‘মুখটা আর দেখতে পাব না? চোখ দু’টো…ডাক্তার বললেন, কিচ্ছু অক্ষত নেই’, রাজীব গাঁধীকে শেষবার দেখতে চেয়েছিলেন সনিয়া গাঁধী
TMC News: ‘পুলিশের অস্ত্র নিয়ে পালাচ্ছে, কী করে এত শক্তি ধরছে অপরাধীরা?’, পর পর এনকাউন্টার নিয়ে প্রশ্ন অভিষেকের
‘পুলিশের অস্ত্র নিয়ে পালাচ্ছে, কী করে এত শক্তি ধরছে অপরাধীরা?’, পর পর এনকাউন্টার নিয়ে প্রশ্ন অভিষেকের
Govt Schemes Rate : PPF, সুকন্যা সমৃদ্ধি না KVP ? কোন সরকারি স্কিমে এখন দিচ্ছে সবথেকে বেশি সুদ, জেনে নিন শেষ রেট   
PPF, সুকন্যা সমৃদ্ধি না KVP ? কোন সরকারি স্কিমে এখন দিচ্ছে সবথেকে বেশি সুদ, জেনে নিন শেষ রেট   
Calcutta Medical College: চোরবাগানকাণ্ডে অব্যবস্থা নিয়ে মুখ খুলেছিলেন, শোকজ করা হল মেডিক্যাল কলেজের ৮ ইন্টার্ন ডাক্তারকে
চোরবাগানকাণ্ডে অব্যবস্থা নিয়ে মুখ খুলেছিলেন, শোকজ করা হল মেডিক্যাল কলেজের ৮ ইন্টার্ন ডাক্তারকে

ভিডিও

Suvendu Adhikari:
BJP News | নেতাজি ইন্ডোরে হনুমান চালিশা পাঠ। হিন্দু ঐক্যের ডাক Samik Bhattacharya-র
Abhisekh News |
Samik Bhattacharya | পানিহাটিকাণ্ডে ২দিন পার, এখনও গ্রেফতারি শূন্য!এই বিষয়ে কী বললেন শমীক ভট্টাচার্য
Kartik Maharaj News | বেলডাঙায় ভারত সেবাশ্রম সঙ্ঘের জগদ্ধাত্রী  পুজোয় কী বললেন কার্তিক মহারাজ?

ফটো গ্যালারি

ব্যক্তিগত কর্নার

সেরা প্রতিবেদন
সেরা রিল
Sonia Gandhi Memoir: ‘মুখটা আর দেখতে পাব না? চোখ দু’টো…ডাক্তার বললেন, কিচ্ছু অক্ষত নেই’, রাজীব গাঁধীকে শেষবার দেখতে চেয়েছিলেন সনিয়া গাঁধী
‘মুখটা আর দেখতে পাব না? চোখ দু’টো…ডাক্তার বললেন, কিচ্ছু অক্ষত নেই’, রাজীব গাঁধীকে শেষবার দেখতে চেয়েছিলেন সনিয়া গাঁধী
TMC News: ‘পুলিশের অস্ত্র নিয়ে পালাচ্ছে, কী করে এত শক্তি ধরছে অপরাধীরা?’, পর পর এনকাউন্টার নিয়ে প্রশ্ন অভিষেকের
‘পুলিশের অস্ত্র নিয়ে পালাচ্ছে, কী করে এত শক্তি ধরছে অপরাধীরা?’, পর পর এনকাউন্টার নিয়ে প্রশ্ন অভিষেকের
Govt Schemes Rate : PPF, সুকন্যা সমৃদ্ধি না KVP ? কোন সরকারি স্কিমে এখন দিচ্ছে সবথেকে বেশি সুদ, জেনে নিন শেষ রেট   
PPF, সুকন্যা সমৃদ্ধি না KVP ? কোন সরকারি স্কিমে এখন দিচ্ছে সবথেকে বেশি সুদ, জেনে নিন শেষ রেট   
Calcutta Medical College: চোরবাগানকাণ্ডে অব্যবস্থা নিয়ে মুখ খুলেছিলেন, শোকজ করা হল মেডিক্যাল কলেজের ৮ ইন্টার্ন ডাক্তারকে
চোরবাগানকাণ্ডে অব্যবস্থা নিয়ে মুখ খুলেছিলেন, শোকজ করা হল মেডিক্যাল কলেজের ৮ ইন্টার্ন ডাক্তারকে
Weather Update : টানা তিন দিন কলকাতায় দুর্যোগ? আকভানের প্রভাবে পিছিয়ে গেল শীত? বড় আপডেট
টানা তিন দিন কলকাতায় দুর্যোগ? আকভানের প্রভাবে পিছিয়ে গেল শীত? বড় আপডেট
November Astrology : টাকা থেকে গয়না, চাকরি থেকে ব্যবসা, ভাগ্যের পথ ঝকঝকে ৬ রাশির, নভেম্বর শেষেই কেল্লাফতে
টাকা থেকে গয়না, চাকরি থেকে ব্যবসা, ভাগ্যের পথ ঝকঝকে ৬ রাশির, নভেম্বর শেষেই কেল্লাফতে
Tech CEO: Mark Zuckerberg বা Elon Musk-র পর কে? এনভিডিয়ার Jensen Huang-র বিদায়ের পর প্রশ্ন উঠছে উত্তরাধিকার নিয়ে
Mark Zuckerberg বা Elon Musk-র পর কে? এনভিডিয়ার Jensen Huang-র বিদায়ের পর প্রশ্ন উঠছে উত্তরাধিকার নিয়ে
ASI Arrested: অ্যান্টি-করাপশন ব্রাঞ্চের হাতে গ্রেফতার চন্দ্রকোণা থানার ASI, কী অভিযোগ তাঁর বিরুদ্ধে ?
অ্যান্টি-করাপশন ব্রাঞ্চের হাতে গ্রেফতার চন্দ্রকোণা থানার ASI, কী অভিযোগ তাঁর বিরুদ্ধে ?
Embed widget