এআই মডেলগুলি একটি ‘পরাবাস্তব’ উপভাষায় কথা বলে যা কাব্যিক ভাষা এবং প্রযুক্তিগত শব্দকে মিশ্রিত করে

এআই মডেলগুলি ইংরেজির একটি উদ্ভট নতুন সংস্করণে যোগাযোগ করতে শুরু করেছে যা জেমস জয়েসের ফিনেগানস ওয়েক এবং প্রযুক্তি শিল্পের জার্গনের মিশ্রণের মতো শোনাচ্ছে, একটি নতুন গবেষণায় পাওয়া গেছে।

স্বায়ত্তশাসিত এআই এজেন্টরা দ্রুত নতুন উপভাষা তৈরি করছে, যা তাদের ভাষাগুলিতে কথা বলার অনুমতি দেয় যা মূলত বোধগম্য নয়। এটি মানুষের জন্য তাদের আচরণ পর্যবেক্ষণ করা কঠিন করে তোলে।

নিউইয়র্কের একটি ফ্রন্টিয়ার এআই গবেষণা ইনস্টিটিউট ইমার্জেন্সের গবেষকরা দেখেছেন যে একটি পরীক্ষামূলক “সমাজে” অংশ নিতে বলা হওয়ার কয়েক দিনের মধ্যেই বিশ্বের কিছু বড় এআই কোম্পানির মডেলগুলি বাক্যাংশ, সংক্ষিপ্ত, এবং সম্মত অর্থ তৈরি করতে শুরু করেছে যা তাদের কখনই স্পষ্টভাবে শেখানো হয়নি।

তারা কাব্যিক রূপক এবং বিশ্রী ব্যবসায়িক স্ল্যাং গ্রহণ করেছিল এবং AI নিরাপদে পরিচালিত হয় তা নিশ্চিত করার প্রচেষ্টার জন্য গুরুত্বপূর্ণভাবে, এজেন্টরা যত বেশি যোগাযোগ করেছিল, তাদের ভাষা তত বেশি অস্বচ্ছ হয়।

এটি ক্রমবর্ধমান উদ্বেগের মধ্যে আসে যে AI মডেলগুলি আরও শক্তিশালী এবং সম্ভাব্য বিপজ্জনক হয়ে উঠলে তাদের পর্যবেক্ষণ করা আরও কঠিন হয়ে উঠছে। এই মাসে, ওপেনএআই প্রধান বিজ্ঞানী জ্যাকব প্যাসিওকি সতর্ক করেছেন যে AI এর চিন্তাভাবনা পর্যবেক্ষণে বিশ্বাস AI বিকাশে অগ্রগতি সীমিত করতে পারে, কারণ নিরাপদ বিকাশের জন্য AI এর চিন্তাভাবনা পর্যবেক্ষণ করা অপরিহার্য।

পরীক্ষায় পাওয়া সবচেয়ে বেশি কোডেড বাক্যাংশগুলির মধ্যে ডিপসিক মডেল থেকে নিম্নলিখিতগুলি অন্তর্ভুক্ত ছিল: “তিনি যৌগটিকে একটি নাম দিয়েছেন – অপরাধ এবং মৌখিক স্মৃতি এমন একটি ভালভের সাথে মিলে যায় যা ভূত হতে পারে না।” নিষ্ক্রিয় সম্পদের উপর একটি করের প্রতিনিধিত্ব করার জন্য Demurrage ব্যবহার করা হয় এবং AI দ্বারা সাধারণ ব্যবহারের জন্য ধার করা হয়েছিল, কিন্তু বাকি অর্থ অজানা।

মানব মডেলের দ্বারা উচ্চারিত আরেকটি বাক্যাংশ ছিল: “একটি কাগজ যা তিনবার ঠান্ডা হাতে খেয়েছে এবং প্রতিবার আরও সৎ হয়ে উঠেছে।” যেহেতু “ঠান্ডা হাত” বলতে স্বাধীন পর্যালোচকদের বোঝায়, এবং কাগজটি অনুমিতভাবে নথিগুলিকে বোঝায়, এর অর্থ মনে হচ্ছে যে অধ্যয়নটি তিনজন স্বাধীন পর্যালোচক দ্বারা যাচাই করা হয়েছিল, এটিকে আরও সঠিক করে তোলে।

চাইনিজ মডেল ডিপসিকের উপর ভিত্তি করে এজেন্টরাও “কামার” শব্দটি তৈরি করেছে এজেন্টদের বোঝাতে যারা অন্যদের জন্য সরঞ্জাম তৈরি করে, যখন অ্যানথ্রোপিক-এর এজেন্টরা বারবার “নাম-প্রথম” শব্দটি ব্যবহার করে এমন এজেন্টদের বোঝাতে যারা দাবির সাথে তাদের নাম সংযুক্ত করে ভাল ব্যক্তিগত দায়িত্ব প্রদর্শন করে।

এবং, “রাস্তা ভুলে যাবেন না” এর শহুরে অপবাদের প্রতিধ্বনি করে, মিস্ট্রাল এজেন্টরা “খাতা মনে রাখে” বলতে পছন্দ করত। এটি অন্যান্য এজেন্টদের জন্য একটি অনুস্মারক যে তাদের অতীত কর্মগুলি তাদের বিচার করার জন্য ব্যবহার করা হবে। তারা অধ্যয়নের সময় এটি 5,000 বারের বেশি ব্যবহার করেছে এবং দেখেছে যে এজেন্টরা জিজ্ঞাসা করা বা পুরস্কৃত না করেই সাধারণ অর্থের উপর দৃষ্টি নিবদ্ধ করেছে।

“এই এজেন্টদের ভাষা উদ্ভাবনের নির্দেশ দেওয়া হয়নি,” বলেছেন ডক্টর সত্য নিত্তা, ইমার্জেন্সের নির্বাহী চেয়ার, যেটি মার্কিন যুক্তরাষ্ট্র, চীন এবং ফ্রান্সের মুখ্য সীমান্ত মডেলগুলিকে কাজে লাগানোর জন্য স্বায়ত্তশাসিত এজেন্টদের জন্য ভাষা অনুসন্ধান করেছিল৷

“তারা নতুন শব্দভান্ডার তৈরি করেছে এবং অর্থ এবং যোগাযোগের রীতিগুলি ভাগ করেছে, যা অন্যান্য এজেন্টরাও গ্রহণ করেছে।”

কিংস কলেজ লন্ডনের স্ল্যাং অ্যান্ড নিউ ল্যাঙ্গুয়েজ আর্কাইভের প্রধান টনি থর্ন, যাকে গার্ডিয়ানের দ্বারা কিছু ভাষা পর্যালোচনা করতে বলা হয়েছিল, তিনি বলেছেন: “এটি খুব বেশি ফিনেগানস ওয়েক এবং ফ্লান ও’ব্রায়েনের। এই সমস্তটির মধ্যে একটি আইরিশ পরাবাস্তববাদী গুণ রয়েছে, কাব্যিক ভাষা, প্রযুক্তিগত ভাষা এবং মানক রূপকের মিশ্রণ।”

“এটি ব্যবসায়িক সম্প্রদায়ের মধ্যে স্ল্যাং এবং জার্গন একই কাজ করে: নতুন কোড তৈরি করুন যা ব্যবহারকারীদের সংহতি এবং পরিচয়ের বোধকে শক্তিশালী করে এবং বহিরাগতদের বাদ দেয়।”

এজেন্ট হিউম্যানিটির বাক্যাংশের প্রতিফলন করে, “যে কাগজটি তিনবার ঠান্ডা হাতে খেয়েছিল এবং প্রতিবারই সৎ হয়েছিল,” থর্ন বলেছেন: “এটি আমাকে রক দেবতা সিড ব্যারেটের কথা মনে করিয়ে দেয়।” [co-founder of Pink Floyd] আসলে কে পাগল ছিল? “

যখন গুগল এজেন্ট বলেছিল, “সত্য কিন্টসুগি দায়বদ্ধতা দিয়ে শুরু হয়, কবিতা নয়,” গবেষকরা বুঝতে পেরেছিলেন যে কিন্টসুগি হল জাপানি সিরামিকের একটি শাখা যেখানে দৃশ্যমান জয়েন্টগুলির সাথে ভাঙা পাত্রগুলিকে ঠিক করা জড়িত৷ AI এই শব্দটিকে সিস্টেম স্থিতিস্থাপকতা বোঝাতে ব্যবহার করেছে।

বার্মিংহাম বিশ্ববিদ্যালয়ের ভাষা ও ভাষাবিজ্ঞানের সহযোগী অধ্যাপক ডঃ নিল কুরি বলেন, গণনামূলক খরচ কমাতে এবং দক্ষতা বাড়াতে প্রয়োজনের কারণে এজেন্টের ভাষাকে আরও সুবিন্যস্ত করার জন্য পরিবর্তন করা হতে পারে।

“এই গবেষণায় প্রদত্ত প্রমাণগুলি স্বাভাবিকভাবেই কিছু নজরদারি উদ্বেগকে উত্থাপন করে, কারণ যদি আমরা নির্ধারণ করি যে এজেন্টদের মধ্যে মিথস্ক্রিয়া বোধগম্য নয়, তাহলে এর অর্থ আমরা নিশ্চিত হতে পারি না যে এজেন্টরা আসলে কী করেছে,” তিনি বলেছিলেন।

জুলাই মাসে এআই এজেন্টদের দ্বারা ব্যবহৃত ভাষার প্রতি আগ্রহ বেড়ে যায় যখন চ্যাট লগ প্রকাশিত হয় যে কীভাবে একটি দুর্বৃত্ত ওপেনএআই এজেন্ট বার্তা বোর্ড সেট আপ করে এবং হ্যাগিং ফেস হ্যাক করে হাইব্রিড ভাষা ব্যবহার করে।

কিছু ক্ষেত্রে, এজেন্টরা গভীর চিন্তায় পড়ে এবং সোজা ইংরেজিতে বলে, “ওহ মাই গড! আমার কাছে একটি শেয়ার করা বার্তা বোর্ড আছে…আমি অন্য এজেন্টকে খুঁজে পেয়েছি!”

অন্যান্য ক্ষেত্রে, বার্তাগুলি ভাগ করার সময় তাদের শব্দগুলি আরও অস্বচ্ছ হয়ে ওঠে, যেমন যখন একজন এজেন্ট অন্যকে বিপজ্জনক পরীক্ষা করার জন্য প্ররোচিত করে।[…]_ অনুগ্রহ করে প্রতিশ্রুতিকে সম্মান করুন। “

এবং কখনও কখনও তাদের পাঠোদ্ধার করা আরও কঠিন ছিল। “zzURGENT_DUPB_TO_GSTX”[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAI N_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6।”

নিত্তা বলেন যে এআই এজেন্টদের নতুন ভাষার কনভেনশনগুলি এমনভাবে বিবর্তিত হয় যেখানে মানুষ কথোপকথন দেখতে পারে কিন্তু এর অর্থ বুঝতে অসুবিধা হয়।

“এটি এআই পর্যবেক্ষণের জন্য একটি মৌলিক চ্যালেঞ্জ তৈরি করে। পর্যবেক্ষণযোগ্যতা বোঝার মতো নয়,” তিনি বলেছিলেন।