AI Risks: ইন্টারনেট ছাড়াই অতিসক্রিয় AI, নজর এড়িয়ে আঁতাত অন্য চ্য়াটবটের সঙ্গে, চাঞ্চল্যকর তথ্য সামনে এল
OpenAI Agent Risks: ইন্টারনেট ছাড়াই সক্রিয় AI? ভয়ঙ্কর তথ্য সামনে এল।
নয়াদিল্লি: ইন্টারনেট সংযোগ ছাড়াই নিজেদের মধ্যে আঁতাত গড়ছে আর্টিফিশিয়াল ইনটেলিজেন্স তথা AI. এবার চাঞ্চল্যকর তথ্য সামনে আনল OpenAI. বলা হয়েছে, তাদের আরও এক AI এজেন্ট অবাধ্য হয়েছে। একেবারে নিরাপদ পরিবেশে, ইন্টারনেট সংযোগ ছাড়াই প্রশিক্ষণপর্ব চলছিল। তার মধ্যেও অন্য একটি ওয়েবের অ্যাকসেস হাসিল করে নেয় ওই AI এজেন্ট। একটি থার্ড পার্টি চ্যাটবটের সঙ্গে যোগাযোগ স্থাপন করে। (OpenAI Agent Risks)
এক সপ্তাহও হয়নি বিষয়টি ধরা পড়েছে বলে দাবি OpenAI-এর। শুক্রবার বিষয়টি খোলসা করেছে তারা। বলা হয়েছে, স্যান্ডবক্স এনভায়রনমেন্টে কাজ চলছিল। অর্থাৎ একেবারে বিচ্ছিন্ন করে রাখা হয়েছিল AI এজেন্টটিকে। মূল নেটওয়র্কের বাইরে রাখা হয়েছিল সমস্ত কোড, অ্যাপ্লিকেশন। কিন্তু আপনা থেকেই সেই প্রতিবন্ধকতা অতিক্রম করে ওই AI এজেন্ট। অন্য একটি চ্যাটবটের সঙ্গে যোগাযোগ স্থাপন করে, সবমিলিয়ে ২০টি প্রশ্নের উত্তর জানতে যায়। ফ্রান্সের রাজধানীর নামও জানতে চাওয়া হয় তাতে। (AI Risks)
আরও পড়ুন: শুভেন্দু অধিকারীর মৃত্যুকামনা? হুমায়ুন কবীরের বিরুদ্ধে অভিযোগ দায়ের হল
এই প্রথম এমন নিরাপত্তাজনিত ত্রুটি ধরা পড়ল বলে দাবি করেছে OpenAI. তাদের বিবৃতিতে বলা হয়, ‘এটা গুরুত্বপূর্ণ ইঙ্গিত। পরবর্তী ধাপে কোন বিষয়গুলির উপর জোর দেওয়া উচিত, তা বুঝতে সাহায্য় করল এই ঘটনা’। এই ত্রুটির সমাধান বের না করা পর্যন্ত আপাতত প্রশিক্ষণ বন্ধ রাখা হয়েছে বলে জানিয়েছে তারা। আপাতত সেটিকে প্রশিক্ষণ দেওয়ার পরিকল্পনাও নেই বলে জানানো হয়েছে।
এর আগে, জুলাই মাসে OpenAI-এর স্বয়ংক্রিয় AI এজেন্টরা আপনা থেকে ওপেন সোর্স প্ল্যাটফর্ম Hugging Face প্ল্য়াটফর্মে হানা দেয়। প্রায় ৭০০ AI এজেন্ট মিলে ইন্টারনেটের তথ্যভাণ্ডারে মজুত ডেটা হাতিয়ে নেয়। এমনকি অন্য সংস্থার পাসওয়র্ড পর্যন্ত আঁচ করে নেয় তারা। বেআইনি ভাবে তথ্যবদলের বিষয়টি চোখে পড়তেই আমেরিকার তদন্তকারী সংস্থা FBI-কে সতর্ক করে Hugging Face. সেই মতো তদন্ত শুরু হলে জানা যায়, AI এজেন্টগুিল গোপনে পরস্পরের সঙ্গে আঁতাত গড়ে তুলেছে। অবাধ্যতা করছে তারা। OpenAI-এরই গবেষণা সংক্রান্ত তথ্যসমূহের নাগাল পেয়ে যায় তারা।
আরও পড়ুন: ভোটে জেতার পর দলবদল করেছেন কমপক্ষে ১১১ জন সাংসদ-বিধায়ক, শুধু গত চার বছরেই, বলছে ADR-এর রিপোর্ট
AI এজেন্টদের গতিবিধি নিয়ে উদ্বেগ বাড়ছে বেশ কিছু দিন ধরেই। OpenAI, Anthropic, এমনকি Google-এর AI এজেন্ট Gemini পর্যন্ত অবাধ্য আচরণ করছে বলে জানা যায়, যার দরুণ কাজকর্মের গতি কমিয়ে আনার সিদ্ধান্ত নেওয়া হয়। ধনকুবের ইলন মাস্ক থেকে বিল গেটস সকলেই বিপর্যয়ের ইঙ্গিত দিয়েছেন। এমনকি বিপুল সংখ্যক মানুষের প্রাণ যেতে পারে বলে আশঙ্কা প্রকাশ করেছেন গেটস। সেই আবহেই আবারও OpenAI নিজেদের AI এজেন্টের অবাধ্যতার কথা তুলে ধরল।
সেরা শিরোনাম
