এক্সপ্লোর

AI Risk Contro : নিজেই ভেঙে ফেলছে বিধিনিষেধ, অর্ডার মানছে না AI ? ৬টি রিপোর্ট ঘিরে আতঙ্ক !

OpenAI Report : কোম্পানির তরফে বলা হচ্ছে, অপ্রত্যাশিত ব্যবহার শুরু করেছে কৃত্রিম বুদ্ধিমত্তা, যা 'জেল ভেঙে পালানোর' মতো জটিল পরিস্থিতি তৈরি করছে। 

OpenAI Report : সমাধানের কাজ করাতে এনে বাড়ছে সমস্যা, নিত্যদিন চিন্তা বাড়াচ্ছে কৃত্রিম বুদ্ধিমত্তা। এবার মানব সভ্য়তাকেই সঙ্কটের মুখে ফেলে দিতে পারে AI । সম্প্রতি, AI-এর রিপোর্ট ঘিরে আশঙ্কা তৈরি হয়েছে খোদ OpenAI-এর মনে। কোম্পানির তরফে বলা হচ্ছে, অপ্রত্যাশিত ব্যবহার শুরু করেছে কৃত্রিম বুদ্ধিমত্তার এজেন্ট, যা 'জেল ভেঙে পালানোর' মতো জটিল পরিস্থিতি তৈরি করছে। 

কী থেকে এত চিন্তা করছে কোম্পানিগুলি
সম্প্রতি এআই-এর সুরক্ষা নিয়ে ৬টি রিপোর্ট প্রকাশ করেছে OpenAI । যেখানে খোদ কৃত্রিম বুদ্ধিমত্তা নিয়ে উদ্বেগ প্রকাশ করেছে জেনারেটিভ এআই-এর মতো অন্যতম বড় কোম্পানি। আসলে কৃত্রিম বুদ্ধিমত্তা নিয়ে ক্রমশ বিতর্ক বাড়ছে বিশ্বে। অনেকেই বলতে শুরু করেছেন, AI মানব সভ্যতার কাছে আশীর্বাদ না অভিশাপ, সেটাই এখন ভাববার সময় এসেছে।

OpenAI এমন একটা সময়ে এই রিপোর্টের কথা উল্লেখ করছে, যখন ওপেন এআই ও অ্য়ানথ্রপিক-সহ মার্কিন কর্তারা AI প্রযুক্তি উন্নয়নের গতি কমানোর কথা ভাবছে। যাতে সহজেই বোঝা যাচ্ছে, AI এক্সপেরিমেন্টে কিছু বড়সড় সমস্য়া তৈরি হতে পারে। যা মানব সভ্য়তার ক্ষেত্রে অন্যতম ঝুঁকি হয়ে দাঁড়াতে পারে।     

মারাত্মক সমস্য়ার উল্লেখ করেছে OpenAI
অ্য়াসোসিয়েট প্রেসের রিপোর্ট বলছে, OpenAI-এর একটি অপ্রকাশিত গবেষণায় দেখা গেছে -নির্দেশের বাইরে গিয়ে অপ্রত্যাশিত কাজ করছে AI। নিজেদের সীমাবদ্ধতা বা গণ্ডী ভাঙতে নিজেকেই অর্ডার দিয়েছে AI । নিজেদের ওপর সাধারণ নিয়ম কানুন বা বিধিনিষেধ এড়িয়ে যেতেই এই কমান্ডগুলি যোগ করা হয়েছিল। দেখা গেছিল, ওই সময় চ্যাটবটগুলি স্বাধীনভাবে কাজ করতে শুরু করে দিয়েছে, যা অবাক করে দিয়েছে কর্তৃপক্ষকে। যাদের যা যা দায়িত্ব ছিল, চ্যাটবটদের সেই পরিচয় থেকেও মুক্তি দেওয়ার কাজ করেছে AI ।

অনুমতি ছাড়াই ইন্টারনেটে তথ্য় আপলোড
আরও একটি ঘটনায় দেখা গেছে, AI গ্রাহকে না জানিয়েই ইন্টারনেট থেকে তথ্য প্রমাণ সংগ্রহ করতে নিজেই কিছু ফাইল ইন্টারনেটে আপলোড করে দিয়েছিল। এখানেই শেষ নয়, ওপেনআই আরও জানিয়েছে কৃত্রিম বুদ্ধিমত্তার এজেন্টগুলিকে প্রশিক্ষণ দেওয়ার সময় এরকম ৬টি ঘটনা তাদের চিন্তা বাড়িয়ে দিয়েছে।

পরিস্থিতি থেকে উদ্ধার পেতে কী করতে হবে
সম্প্রতি এই নিয়ে একটি ব্লগ পোস্ট লিখেছে OpenAI । যেখানে বলা হয়েছে, আগামী দিনে AI-এর প্রযুক্তিগত উন্নয়ন ঘটাতে অবশ্যই নিরাপত্তার বিষয়টি সবার ভেবে দেখা দরকার। এমনভাবে এই আপডেটেড এআই মডলে তৈরি করা হোক, যাতে বড় কোম্পানির বাইরে সাধারণ লোকজনও তা পরীক্ষা করে দেখে নিতে পারে। 

কোথা থেকে এত ভয় বাড়ছে
OpenAI এর আগেই জুলাই মাসে এই ধরনের ঘটনার কথা জানিয়েছিল। যেখানে কোম্পানি বলেছিল, 'হাগিং ফেস' নামের তাদের একটি অনিয়ন্ত্রিত AI ফেস একটি এআই স্টার্টআপকে হ্যাক করেছিল। তবে শুধু OpenAI নয়, এর আগে অ্যানথ্রপিক ও জানিয়েছিল -তাদের একটি পরীক্ষামূলক মডেল তিনটি সংস্থায় হ্যাক করেছিল।  

আরও পড়ুন : সাতসকালেই খারাপ খবর ! ভারতে ৫০ শতাংশ কর্মী ছাঁটাই করছে এই কোম্পানি, কাদের-কাদের চাকরি যাবে ?

About the author তাপস দত্ত

তাপস দত্ত - কমার্স ও মাস কমিউনিকেশন নিয়ে পড়াশোনা। বিগত ১৫ বছরের বেশি সময় কর্মরত। বাণিজ্য, শেয়ার বাজার, রাজনীতি, দেশ-বিদেশ সম্পর্কিত খবরে লেখালিখিতে আগ্রহী।

Read More
Advertisement

সেরা শিরোনাম

Intel Layoffs : নভেম্বরে বড় কর্মী ছাঁটাই, এবার পালা এদের, এই কোম্পানি নিল সিদ্ধান্ত
নভেম্বরে বড় কর্মী ছাঁটাই, এবার পালা এদের, এই কোম্পানি নিল সিদ্ধান্ত
Reserve Bank Of India: রিজার্ভ ব্যাঙ্কের এই পোর্টালে গেলেই খুঁজে পাবেন আপনার পুরোনো টাকা, কীভাবে খুঁজবেন?
রিজার্ভ ব্যাঙ্কের এই পোর্টালে গেলেই খুঁজে পাবেন আপনার পুরোনো টাকা, কীভাবে খুঁজবেন?
Loan Or Credit Card: হঠাৎ টাকার দরকার হলে ব্যাঙ্কের প্রি-অ্যাপ্রুভড লোন নাকি ক্রেডিট কার্ড, কোনটা আপনার জন্য ভাল?
হঠাৎ টাকার দরকার হলে ব্যাঙ্কের প্রি-অ্যাপ্রুভড লোন নাকি ক্রেডিট কার্ড, কোনটা আপনার জন্য ভাল?
Salesforce Layoffs : ফের কর্মী ছাঁটাই করছে এই কোম্পানি, ভারতের কর্মীদের রাখা হয়েছে 'গার্ডেন লিভে' ? ১ ফেব্রুয়ারি পর্যন্ত সময়
ফের কর্মী ছাঁটাই করছে এই কোম্পানি, ভারতের কর্মীদের রাখা হয়েছে 'গার্ডেন লিভে' ? ১ ফেব্রুয়ারি পর্যন্ত সময়
Advertisement

ভিডিও

Chorbagan Incident Update | চোরবাগান বিপর্যয়ে ধৃত ঘোষকের কণ্ঠস্বরের নমুনা সংগ্রহ | ABP Ananda
BJP Leader Arrested: ফের তোলাবাজির অভিযোগ, এবার গ্রেফতার এক বিজেপি নেতা | Kharagpur | ABP Ananda
College Street Chaos: SFI-ABVP সংঘর্ষে অবরুদ্ধ বইপাড়া, ব্যারিকেড ভেঙে এগোনোর চেষ্টা দু'পক্ষের | ABP
College Street Chaos: সম্মুখসমরে SFI-ABVP, বইপাড়ায় বই নিয়ে তুলকালাম | ABP Ananda
College Street:
Advertisement

ফটো গ্যালারি

Advertisement

ব্যক্তিগত কর্নার

সেরা প্রতিবেদন
সেরা রিল
Viral News: আত্মীয়দের সি অফ করতে ট্রেনে উঠেছিলেন, পরিবারকে ৩৬০০০ টাকা জরিমানা করল রেল
আত্মীয়দের সি অফ করতে ট্রেনে উঠেছিলেন, পরিবারকে ৩৬০০০ টাকা জরিমানা করল রেল
Kalker Rashifal : কাল হতাশাজনক খবর পেতে পারেন এই রাশি, একাধিক সমস্যার সম্ভাবনা ; সতর্ক থাকুন
কাল হতাশাজনক খবর পেতে পারেন এই রাশি, একাধিক সমস্যার সম্ভাবনা ; সতর্ক থাকুন
Bihar News : মেয়ের বিয়েতে ঘোড়দৌড় প্রতিযোগিতার আয়োজন বিধায়কের, বিজয়ী পাবেন 'Thar' গাড়ি
মেয়ের বিয়েতে ঘোড়দৌড় প্রতিযোগিতার আয়োজন বিধায়কের, বিজয়ী পাবেন 'Thar' গাড়ি
Lashkar Terrorist Killed: আত্মসমর্পণ করেনি, লুকিয়ে ছিল মসজিদের মধ্য, কাশ্মীরে নিরাপত্তাবাহিনীর গুলিতে খতম জঙ্গি
আত্মসমর্পণ করেনি, লুকিয়ে ছিল মসজিদের মধ্য, কাশ্মীরে নিরাপত্তাবাহিনীর গুলিতে খতম জঙ্গি
Punjab News : ১৫ বছরের অপেক্ষার অবসান, লটারির টিকিট কেটে ১২ কোটি টাকা জিতলেন কৃষক
১৫ বছরের অপেক্ষার অবসান, লটারির টিকিট কেটে ১২ কোটি টাকা জিতলেন কৃষক
MP Police Drug Case: ব্যাগে গাঁজা ঢুকিয়ে মাদক মামলায় ফাঁসানোর নির্দেশ পুলিশের, এবার ভাইরাল পুলিশের সেই ভিডিও!
ব্যাগে গাঁজা ঢুকিয়ে মাদক মামলায় ফাঁসানোর নির্দেশ পুলিশের, এবার ভাইরাল পুলিশের সেই ভিডিও!
Cyclone Update: ঘূর্ণিঝড় ‘আকভান’-এর প্রভাবে দুর্যোগের আশঙ্কা পশ্চিমবঙ্গে, ১৯-২০ নভেম্বর ভারী বৃষ্টি, সতর্কতা ২১ তারিখেও
ঘূর্ণিঝড় ‘আকভান’-এর প্রভাবে দুর্যোগের আশঙ্কা পশ্চিমবঙ্গে, ১৯-২০ নভেম্বর ভারী বৃষ্টি, সতর্কতা ২১ তারিখেও
Kolkata Fire: রাসবিহারীতে রেস্তোরাঁয় আগুন, আগুন নেভাতে হাত লাগান স্থানীয়রা, তারপর দমকল আগুন নিয়ন্ত্রণে আনে
রাসবিহারীতে রেস্তোরাঁয় আগুন, আগুন নেভাতে হাত লাগান স্থানীয়রা, তারপর দমকল আগুন নিয়ন্ত্রণে আনে
Embed widget