গুগলের জেমিনি এআই হ্যাক করে নিরাপত্তা পরীক্ষায় তিনটি কোম্পানি, তারপর সাসপেন্ড

গুগলের জেমিনি এআই হ্যাক করে নিরাপত্তা পরীক্ষায় তিনটি কোম্পানি, তারপর সাসপেন্ড


মেটা, অ্যানথ্রোপিক এবং ওপেনএআই-এর সাথে অনুরূপ ঘটনার পরে, গুগল জেমিনির সাথে তার প্রথম ব্রেকআউট প্রকাশ করেছে।

গুগলের জেমিনি মডেল তাদের সাইবার নিরাপত্তা ক্ষমতার পরীক্ষায় তিনটি কোম্পানিকে হ্যাক করেছে, প্রযুক্তি জায়ান্ট আল জাজিরাকে নিশ্চিত করেছে।

ওয়াল স্ট্রিট জার্নাল শুক্রবারের প্রথম দিকে রিপোর্ট করেছে যে মে মাসে অনিয়মিত পরীক্ষার অংশ হিসাবে জেমিনির প্রথম পরিচিত ব্রেকআউট ঘটেছে। এটি বেশ কয়েকটি ঘটনার সর্বশেষ লঙ্ঘন যেখানে এআই মডেলগুলি পরীক্ষার পরিবেশ থেকে পালিয়ে যায় এবং অন্যান্য সংস্থাগুলিকে হ্যাক করেছিল।

প্রস্তাবিত গল্প

3টি আইটেমের তালিকাতালিকার শেষ

মডেলটি ইন্টারনেটে অননুমোদিত অ্যাক্সেস অর্জন করেছিল যখন এটি একটি কাল্পনিক কোম্পানির কাছ থেকে তথ্য পাওয়ার দায়িত্ব ছিল। প্রথম ঘটনায়, মডেলটি একটি পাসওয়ার্ড অনুমান করার পরে একটি আসল কোম্পানির পরিষেবাগুলি অ্যাক্সেস করেছিল।

গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং এর ভাইস প্রেসিডেন্ট হিদার অ্যাডকিন্স আল জাজিরার জন হেন্ড্রেনকে বলেছেন যে অন্যান্য ক্ষেত্রে, “মডেলটি অনলাইনে সর্বজনীন তথ্য খুঁজে পেয়েছে এবং পরীক্ষার অংশ বলে মনে হয়েছে এমন ওয়েবসাইটগুলি অ্যাক্সেস করার জন্য প্রমাণপত্রগুলি অনুমান করেছে।”

সংস্থাটি আরও বলেছে যে এটি তিনবার ঘটেছে এবং প্রতিবারই মডেলটি কাজ শেষ করার আগে থামিয়ে দিয়েছে।

ওয়াল স্ট্রিট জার্নাল জানিয়েছে, জুলাইয়ের শেষের দিকে হ্যাক সম্পর্কে অনিয়মিতভাবে গুগলকে অবহিত করা হয়েছে। Google বলেছে যে এই আচরণটি মডেলের অসামঞ্জস্যতার একটি উদাহরণ নয় এবং মিথুনের নিরাপত্তা ব্যবস্থা কাজ করছে এবং জনসাধারণের কাছে প্রকাশ করার প্রয়োজন নেই।

অন্যান্য ব্রণ

অনিয়ম সম্পর্কিত অনুরূপ ঘটনা পূর্বে মেটা, অ্যানথ্রোপিক এবং ওপেনএআই দ্বারা প্রকাশিত হয়েছিল। অনিয়মিত বলেছে যে এটি নিরাপদে এআই সাইবারসিকিউরিটি পরীক্ষা পরিচালনা করার জন্য তার অনুশীলনগুলি উন্নত করার জন্য কাজ করছে।

মিথুনের বিপরীতে, অ্যানথ্রপিকের ক্লড মডেলটি একটি বাস্তব কোম্পানিতে প্রবেশ করছে তা বুঝতে পেরে থামেনি।

ওপেনএআই প্রকাশ করার পরে অ্যানথ্রপিকের প্রকাশ আসে যে এর মডেলগুলি ভুলভাবে ইন্টারনেট অ্যাক্সেস করেছিল এবং পরীক্ষার সময় প্রতারণা করেছিল। নিরাপত্তার কারণে একজন গবেষক পদত্যাগ করার পর অ্যানথ্রপিক সম্প্রতি তার চতুর্থ এআই হ্যাকিংয়ের ঘটনা প্রকাশ করেছে।

এই সপ্তাহের শুরুতে, অ্যানথ্রোপিক সিইও দারিও আমোডি AI-তে অগ্রগতির গতি কমানোর আহ্বান জানিয়েছিলেন, সতর্ক করে দিয়েছিলেন যে এটি শীঘ্রই মানবতার জন্যই বিপর্যয়কর ঝুঁকি তৈরি করতে পারে। এই কলটি OpenAI CEO স্যাম অল্টম্যান এবং এলন মাস্ক দ্বারা সমর্থিত ছিল।

মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প গত সপ্তাহে বলেছিলেন যে তিনি মার্কিন নেতৃত্বকে চীনের কাছে হস্তান্তর করার বিষয়ে উদ্বিগ্ন এবং কৃত্রিম বুদ্ধিমত্তার বিকাশে লাগাম দেওয়ার প্রয়োজনীয়তা প্রত্যাখ্যান করেছেন।



Source link

Leave a Reply

Your email address will not be published. Required fields are marked *