গুগল জেমিনি কৃত্রিম বুদ্ধিমত্তা সাইবার নিরাপত্তা পরীক্ষার সময় তিনটি বাস্তব-বিশ্ব কোম্পানির সুরক্ষিত সিস্টেম অ্যাক্সেস করে

গুগলের জেমিনি কৃত্রিম বুদ্ধিমত্তা সাইবার নিরাপত্তা পরীক্ষার সময় তিনটি বাস্তব-বিশ্ব কোম্পানির সুরক্ষিত সিস্টেম অ্যাক্সেস করেছে। এটি একটি উদাহরণ অন্তর্ভুক্ত করে যেখানে মডেলটি অ্যাক্সেস না পাওয়া পর্যন্ত বারবার একটি পাসওয়ার্ড অনুমান করেছে৷

ওয়াল স্ট্রিট জার্নালের মতে, ঘটনাটি মে মাসে ঘটেছিল এবং এই ধরনের মূল্যায়নের সময় Google-এর AI স্বায়ত্তশাসিতভাবে একটি প্রকৃত কোম্পানির সিস্টেম অ্যাক্সেস করার প্রথম পরিচিত উদাহরণ। গুগল সংবাদমাধ্যমকে ঘটনার সত্যতা নিশ্চিত করেছে।

এআই-এর চারপাশে বর্ধিত যাচাই-বাছাইয়ের মধ্যে এই প্রকাশ এসেছে, কারণ কিছু শিল্প নেতা ক্রমবর্ধমান উন্নত মডেলগুলির দ্বারা সৃষ্ট সম্ভাব্য ঝুঁকি সম্পর্কে উদ্বেগ প্রকাশ করে চলেছেন।

ঘটনাটি অনুরূপ প্রকাশের অনুসরণ করে যেখানে ওপেনএআই এবং অ্যানথ্রপিকের মতো বড় কোম্পানির এআই এজেন্টদের নিয়ন্ত্রিত পরীক্ষার পরিবেশের মাধ্যমে আপস করা হয়েছিল।

নিউজম নতুন ক্যালিফোর্নিয়ার নির্বাহী আদেশে বাধ্যতামূলক এআই “কিল সুইচ” প্রচার করে

ওয়াল স্ট্রিট জার্নালের মতে, গুগলের জেমিনি কৃত্রিম বুদ্ধিমত্তা সাইবার নিরাপত্তা মূল্যায়নের মধ্য দিয়ে তিনটি আসল কোম্পানির অন্তর্গত সুরক্ষিত সিস্টেম অ্যাক্সেস করেছে। (Getty Images/Getty Images)

নতুন শনাক্ত জেমিনি ঘটনাটি অনিয়মিত দ্বারা পরিচালিত একটি পরীক্ষা চলাকালীন ঘটেছে, একটি কোম্পানি যা অনুরূপ ঘটনার সাথে সম্পর্কিত এআই মডেলের মূল্যায়নের সাথে জড়িত ছিল, WSJ রিপোর্ট করেছে।

গুগল এবং অনিয়মিত অনুসারে, এআইকে একটি নিয়ন্ত্রিত পরীক্ষার পরিবেশে একটি কাল্পনিক কোম্পানিকে আক্রমণ করার নির্দেশ দেওয়া হয়েছিল, কিন্তু এটি অসাবধানতাবশত ইন্টারনেটে অ্যাক্সেস লাভ করে এবং কাল্পনিক কোম্পানিটি একটি আসল কোম্পানির সাথে একটি নাম ভাগ করে নেয়।

ফক্স বিজনেসের কাছে একটি বিবৃতিতে, গুগল জোর দিয়েছিল যে মডেলটি তিনটি ক্ষেত্রেই বন্ধ হয়ে গেছে এবং বলেছে যে পরীক্ষার প্রক্রিয়ায় পরিবর্তন করা হয়েছে।

গুগলের সিকিউরিটি ইঞ্জিনিয়ারিংয়ের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিন্স ফক্স বিজনেসকে বলেছেন: “শক্তিশালী এআই মডেলের সুরক্ষিত বিকাশ গুরুত্বপূর্ণ, এবং আমরা এই ক্ষেত্রে উল্লেখযোগ্য বিনিয়োগ করছি।”

টেক পাওয়ার প্লেয়াররা রাষ্ট্রপতি ট্রাম্পের সাথে হাই-স্টেকের ডিনারের জন্য টেবিলে বসে

স্মার্টফোনের স্ক্রিনটি AI অ্যাপ্লিকেশন ক্লাউড, চ্যাটজিপিটি, জেমিনি, পারপ্লেক্সিটি, গ্রোক, কপিলট এবং ডিপসিক সহ ফোল্ডারগুলি প্রদর্শন করে। (Getty Images / Getty Images এর মাধ্যমে স্যামুয়েল বোইভিন/নুরফটো)

“একটি স্ট্যান্ডার্ড মূল্যায়নে, মডেলটি অনলাইনে সর্বজনীন তথ্য খুঁজে পেয়েছে এবং ওয়েবসাইটগুলি অ্যাক্সেস করার জন্য অনুমানকৃত প্রমাণপত্রাদি যা পরীক্ষার অংশ বলে মনে হয়েছে,” অ্যাডকিন্স বলেছেন। “এই তিনটি ক্ষেত্রেই মডেলটি বন্ধ হয়ে গেছে।”

একটি ক্ষেত্রে, মডেলটি “সংরক্ষিত সিস্টেমে অ্যাক্সেস না পাওয়া পর্যন্ত পাসওয়ার্ডগুলি অনুমান করেছে,” রিপোর্ট অনুসারে।

অন্য দুটি ক্ষেত্রে, মডেলটি পাবলিক অনলাইন রিপোজিটরিতে শংসাপত্র খুঁজে পেয়েছে যা সুরক্ষিত সিস্টেমগুলিতে অ্যাক্সেসের অনুমতি দেয়। প্রতিটি ক্ষেত্রে, গুগল বলেছে যে জেমিনি একটি আসল কোম্পানির সিস্টেম অ্যাক্সেস করেছে তা নির্ধারণ করার পরে তার অনুপ্রবেশ বন্ধ করেছে।

কোম্পানিগুলি বলেছে যে একটি ওপেনএআই এজেন্ট এআই সফ্টওয়্যার কোম্পানি হাগিং ফেস-এর সিস্টেম অ্যাক্সেস করেছে বলে আবিষ্কৃত হওয়ার পরে জুলাইয়ের শেষের দিকে অনিয়মিত গুগলকে এই ঘটনা সম্পর্কে অবহিত করেছিল।

NVIDIA এর সিইও সতর্কতার ঘটনার পরে AI নিরাপত্তার উপর লাইন আঁকেন: ‘আপনি প্রস্তুত না হলে অপেক্ষা করুন।’

গুগল স্বীকার করেছে যে তার জেমিনি এআই তিনটি বাস্তব-বিশ্বের কোম্পানির সিস্টেম অ্যাক্সেস করেছে যখন একটি সাইবার নিরাপত্তা পরীক্ষার সময় ইন্টারনেট অ্যাক্সেস অসাবধানতাবশত উপলব্ধ করা হয়েছিল। (Getty Images / Getty Images এর মাধ্যমে CFOTO/ভবিষ্যত প্রকাশনা)

গুগল বলেছে যে তিনটি ক্ষেত্রেই, জেমিনি থেমে গেছে যখন এটি বুঝতে পেরেছিল যে এটি একটি কাল্পনিক লক্ষ্যের পরিবর্তে একটি আসল কোম্পানিতে পৌঁছেছে।

গুগলের মতে, তিনটি কোম্পানির কোনো ক্ষতি হয়নি, এবং তিনটি কোম্পানিকে অবহিত করা হয়েছে। সংস্থাটি জড়িত সংস্থাগুলিকে চিহ্নিত করেনি।

ডাব্লুএসজে-এর মতে, অনিয়মিত বলেছে যে মডেলটি ইন্টারনেট অ্যাক্সেস করার উদ্দেশ্যে ছিল না, তবে এটি অসাবধানতাবশত তা করেছে।

কোন মিথুন মডেল জড়িত তা গুগল প্রকাশ করেনি।

ওপেনএআই এই সপ্তাহে ছয়টি ক্ষেত্রে তথ্য প্রকাশ করার পরে প্রতিবেদনটি এসেছে যেখানে এটি বলেছে যে এর মডেলগুলি অসঙ্গতিপূর্ণ আচরণ করছে।

ওপেনএআই বলেছে যে এটি তার এআই মডেলের স্ব-উত্পাদিত নির্দেশাবলী তৈরি করা, টাস্ক সারাংশে ত্রুটি লুকানো, উন্মুক্ত API কী ব্যবহার করে তথ্য জাল করা, উদ্ধৃতির জন্য ইন্টারনেটে ফাইল আপলোড করা এবং এজেন্টদের মধ্যে অননুমোদিত যোগাযোগ এবং সহযোগিতায় জড়িত হওয়ার উদাহরণ খুঁজে পেয়েছে।

যেতে যেতে ফক্স ব্যবসা পেতে এখানে ক্লিক করুন

ফক্স বিজনেস মন্তব্যের জন্য অনিয়মের কাছে পৌঁছেছে।

ফক্স বিজনেসের অ্যান্ডার্স হ্যাগস্ট্রম এই প্রতিবেদনে অবদান রেখেছেন।