AI Risk Contro : নিজেই ভেঙে ফেলছে বিধিনিষেধ, অর্ডার মানছে না AI ? ৬টি রিপোর্ট ঘিরে আতঙ্ক !
OpenAI Report : কোম্পানির তরফে বলা হচ্ছে, অপ্রত্যাশিত ব্যবহার শুরু করেছে কৃত্রিম বুদ্ধিমত্তা, যা 'জেল ভেঙে পালানোর' মতো জটিল পরিস্থিতি তৈরি করছে।
OpenAI Report : সমাধানের কাজ করাতে এনে বাড়ছে সমস্যা, নিত্যদিন চিন্তা বাড়াচ্ছে কৃত্রিম বুদ্ধিমত্তা। এবার মানব সভ্য়তাকেই সঙ্কটের মুখে ফেলে দিতে পারে AI । সম্প্রতি, AI-এর রিপোর্ট ঘিরে আশঙ্কা তৈরি হয়েছে খোদ OpenAI-এর মনে। কোম্পানির তরফে বলা হচ্ছে, অপ্রত্যাশিত ব্যবহার শুরু করেছে কৃত্রিম বুদ্ধিমত্তার এজেন্ট, যা 'জেল ভেঙে পালানোর' মতো জটিল পরিস্থিতি তৈরি করছে।
কী থেকে এত চিন্তা করছে কোম্পানিগুলি
সম্প্রতি এআই-এর সুরক্ষা নিয়ে ৬টি রিপোর্ট প্রকাশ করেছে OpenAI । যেখানে খোদ কৃত্রিম বুদ্ধিমত্তা নিয়ে উদ্বেগ প্রকাশ করেছে জেনারেটিভ এআই-এর মতো অন্যতম বড় কোম্পানি। আসলে কৃত্রিম বুদ্ধিমত্তা নিয়ে ক্রমশ বিতর্ক বাড়ছে বিশ্বে। অনেকেই বলতে শুরু করেছেন, AI মানব সভ্যতার কাছে আশীর্বাদ না অভিশাপ, সেটাই এখন ভাববার সময় এসেছে।
OpenAI এমন একটা সময়ে এই রিপোর্টের কথা উল্লেখ করছে, যখন ওপেন এআই ও অ্য়ানথ্রপিক-সহ মার্কিন কর্তারা AI প্রযুক্তি উন্নয়নের গতি কমানোর কথা ভাবছে। যাতে সহজেই বোঝা যাচ্ছে, AI এক্সপেরিমেন্টে কিছু বড়সড় সমস্য়া তৈরি হতে পারে। যা মানব সভ্য়তার ক্ষেত্রে অন্যতম ঝুঁকি হয়ে দাঁড়াতে পারে।
মারাত্মক সমস্য়ার উল্লেখ করেছে OpenAI
অ্য়াসোসিয়েট প্রেসের রিপোর্ট বলছে, OpenAI-এর একটি অপ্রকাশিত গবেষণায় দেখা গেছে -নির্দেশের বাইরে গিয়ে অপ্রত্যাশিত কাজ করছে AI। নিজেদের সীমাবদ্ধতা বা গণ্ডী ভাঙতে নিজেকেই অর্ডার দিয়েছে AI । নিজেদের ওপর সাধারণ নিয়ম কানুন বা বিধিনিষেধ এড়িয়ে যেতেই এই কমান্ডগুলি যোগ করা হয়েছিল। দেখা গেছিল, ওই সময় চ্যাটবটগুলি স্বাধীনভাবে কাজ করতে শুরু করে দিয়েছে, যা অবাক করে দিয়েছে কর্তৃপক্ষকে। যাদের যা যা দায়িত্ব ছিল, চ্যাটবটদের সেই পরিচয় থেকেও মুক্তি দেওয়ার কাজ করেছে AI ।
অনুমতি ছাড়াই ইন্টারনেটে তথ্য় আপলোড
আরও একটি ঘটনায় দেখা গেছে, AI গ্রাহকে না জানিয়েই ইন্টারনেট থেকে তথ্য প্রমাণ সংগ্রহ করতে নিজেই কিছু ফাইল ইন্টারনেটে আপলোড করে দিয়েছিল। এখানেই শেষ নয়, ওপেনআই আরও জানিয়েছে কৃত্রিম বুদ্ধিমত্তার এজেন্টগুলিকে প্রশিক্ষণ দেওয়ার সময় এরকম ৬টি ঘটনা তাদের চিন্তা বাড়িয়ে দিয়েছে।
পরিস্থিতি থেকে উদ্ধার পেতে কী করতে হবে
সম্প্রতি এই নিয়ে একটি ব্লগ পোস্ট লিখেছে OpenAI । যেখানে বলা হয়েছে, আগামী দিনে AI-এর প্রযুক্তিগত উন্নয়ন ঘটাতে অবশ্যই নিরাপত্তার বিষয়টি সবার ভেবে দেখা দরকার। এমনভাবে এই আপডেটেড এআই মডলে তৈরি করা হোক, যাতে বড় কোম্পানির বাইরে সাধারণ লোকজনও তা পরীক্ষা করে দেখে নিতে পারে।
কোথা থেকে এত ভয় বাড়ছে
OpenAI এর আগেই জুলাই মাসে এই ধরনের ঘটনার কথা জানিয়েছিল। যেখানে কোম্পানি বলেছিল, 'হাগিং ফেস' নামের তাদের একটি অনিয়ন্ত্রিত AI ফেস একটি এআই স্টার্টআপকে হ্যাক করেছিল। তবে শুধু OpenAI নয়, এর আগে অ্যানথ্রপিক ও জানিয়েছিল -তাদের একটি পরীক্ষামূলক মডেল তিনটি সংস্থায় হ্যাক করেছিল।
সেরা শিরোনাম
