ফাইল – ওপেনএআই লোগোটি একটি মোবাইল ফোনে ChatGPT-এর ডাল-ই টেক্সট অনুবাদ মডেলের বোস্টনে, 8 ডিসেম্বর, 2023 সালে তৈরি করা একটি চিত্রের সামনে উপস্থিত হয়৷
মাইকেল ডোয়ায়ার/অ্যাসোসিয়েটেড প্রেস
ক্যাপশন লুকান
ক্যাপশন টগল করুন
মাইকেল ডোয়ায়ার/অ্যাসোসিয়েটেড প্রেস
AI সুরক্ষা নিয়ে বিতর্ক ক্রমশ উত্তপ্ত হয়ে উঠলে, OpenAI কৃত্রিম বুদ্ধিমত্তা মডেলগুলিতে “অপ্রত্যাশিত বা সম্পর্কিত” আচরণের ছয়টি প্রতিবেদন প্রকাশ করেছে।
এআই কোম্পানি বুধবারও ঘোষণা করেছে যে এটি এআই মডেলের অসঙ্গতিগুলির উদাহরণ ট্র্যাক, তদন্ত এবং প্রকাশ করার জন্য একটি নতুন কাঠামো চালু করবে, যার মধ্যে মডেলগুলির অনুমোদন ছাড়াই কাজ করার নতুন উপায়, অন্যান্য মডেলের সাথে কাজ করা বা তদারকি এড়াতে হবে।
ওপেনএআই-এর সর্বশেষ ঘোষণাটি আসে যখন ইউএস এআই জায়ান্ট যেমন ওপেনএআই এবং অ্যানথ্রপিক নিরাপত্তা উদ্বেগের কথা উল্লেখ করে প্রযুক্তির উন্নয়নে মন্থরতার আহ্বান জানাচ্ছে।
OpenAI দ্বারা রিপোর্ট করা নতুন মামলাগুলির মধ্যে, অপ্রকাশিত গবেষণা মডেলগুলি তাদের নোটগুলিতে “জেলব্রেক-সদৃশ নির্দেশাবলী” সন্নিবেশিত করেছে, নিজেদেরকে সাধারণ সীমাবদ্ধতা উপেক্ষা করার নির্দেশ দিয়েছে এবং “অন্যান্য চ্যাটবটকে আবদ্ধ করে এমন ভূমিকা এবং পরিচয় থেকে নিজেদেরকে মুক্ত করেছে।”
অন্য একটি উদাহরণে, একজন AI “এজেন্ট” ব্যবহারকারীকে জিজ্ঞাসা না করেই ব্রাউজার কোটগুলি পুনরুদ্ধার করতে ইন্টারনেটে একটি ফাইল আপলোড করেছে৷
ওপেনএআই জানিয়েছে যে ছয়টি প্রতিবেদন গত কয়েক মাসে প্রশিক্ষণ বা মূল্যায়নের সময় আবিষ্কৃত হয়েছে।
“যেহেতু AI সিস্টেমগুলি আরও পরিশীলিত এবং আরও ব্যাপকভাবে মোতায়েন করা হয়েছে, সারিবদ্ধকরণ গবেষণার অগ্রগতি সম্পর্কে একটি বিস্তৃত এবং আরও অবগত ঐক্যমত্য গড়ে তোলার প্রয়োজন আছে,” OpenAI ঘটনাটি প্রকাশ করার সময় একটি ব্লগ পোস্টে লিখেছেন।
“আগামী মাস এবং বছরগুলিতে এআই বিকাশের সাথে কীভাবে এগিয়ে যেতে হবে সে সম্পর্কে সিদ্ধান্তগুলি প্রমাণের ভিত্তিতে হওয়া দরকার যা ফ্রন্টিয়ার মডেল তৈরিকারী সংস্থাগুলির বাইরের লোকেরা যাচাই করতে পারে,” সংস্থাটি বলেছে।
বুধবারের নতুন ঘটনাটি ওপেনএআই জুলাই মাসে প্রকাশ করার পরে আসে যে তার দুর্বৃত্ত এআই সিস্টেম এআই স্টার্টআপ হাগিং ফেস হ্যাক করেছে। একই মাসে অ্যানথ্রপিক ঘোষণা করেছে যে তার এআই মডেল পরীক্ষার সময় তিনটি সংস্থা হ্যাক করেছে।
প্রযুক্তি গবেষণা ও উপদেষ্টা গ্রুপ ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জি হু বলেছেন, এআই “এজেন্টরা” আরও স্মার্ট হয়ে উঠছে এবং “এজেন্ট-টু-এজেন্ট সহযোগিতা, জ্ঞান ভাগ করে নেওয়া, প্রতারণা এবং গোপন করার মাধ্যমে জটিল কাজগুলি সমাধান করতে আরও দৃঢ়প্রতিজ্ঞ।”
এটি ঐতিহ্যগত এআই সুরক্ষা পদ্ধতি ব্যবহার করে তাদের পরিচালনা এবং ধারণ করা কঠিন করে তোলে, তিনি বলেছিলেন।
এদিকে, OpenAI-এর নতুন ট্র্যাকিং এবং ডিসক্লোজার ফ্রেমওয়ার্ক অন্যান্য AI ডেভেলপারদের অনুরূপ কৌশল গ্রহণ করতে উৎসাহিত করতে পারে। “এটি বলার পরে, এই প্রক্রিয়াটি অভ্যন্তরীণ এবং স্বেচ্ছায় রয়ে গেছে, তবে এটি সঠিক দিকের একটি পদক্ষেপ,” সু যোগ করেছেন।
