সুপার ইন্টেলিজেন্স দ্বারা সৃষ্ট ঝুঁকি সম্পর্কে শীর্ষ এআই বিশেষজ্ঞের কাছ থেকে শিম্পাঞ্জি-পারমাণবিক সাদৃশ্য

নয়াদিল্লি:

ব্রিটিশ কম্পিউটার বিজ্ঞানী স্টুয়ার্ট রাসেল, AI-তে বিশ্বের অন্যতম প্রধান কণ্ঠস্বর, বলেছেন যে কৃত্রিম বুদ্ধিমত্তার (AI) উপর মানুষের নিয়ন্ত্রণ হারানো কেমন হবে তা ব্যাখ্যা করা কঠিন কারণ আমরা সুপার ইন্টেলিজেন্স দ্বারা সৃষ্ট ঝুঁকিগুলিও বুঝতে পারি না। তার বিন্দু ব্যাখ্যা করার জন্য, রাসেল বলেছিলেন যে শিম্পাঞ্জিরা পারমাণবিক অস্ত্রের মতো জিনিসগুলিও বুঝতে শুরু করতে পারে না, তাই তারা বুঝতে পারে না কিভাবে মানুষ তাদের নিশ্চিহ্ন করতে পারে।

বুধবার এনডিটিভির শিব আরোর সাথে একটি বিস্তৃত একচেটিয়া কথোপকথনে, রাসেল, যিনি ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের একজন অধ্যাপক, বার্কলে, তিনি AI-তে অগ্রগতি কমিয়ে দেওয়ার আহ্বান জানিয়েছিলেন, হতাশা প্রকাশ করেছিলেন যে মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প এবং মেটা প্রধান মার্ক জুকারবার্গ একমত নন, এবং “তারা রোবটদের” “সেনাবাহিনী বেছে নেওয়ার কিছু করার সম্ভাবনা সম্পর্কে কথা বলেছেন৷”

পড়া | এআই সুপার পাওয়ার হিসেবে চীনের উত্থানকে ধীর করার জন্য প্রেসিডেন্ট ট্রাম্পের কাছে কয়েকটি ভালো বিকল্প রয়েছে

রাসেল, কৃত্রিম বুদ্ধিমত্তার সহ-লেখক: মডার্ন অ্যাপ্রোচেস, বিষয়টির উপর প্রামাণিক পাঠ্যপুস্তক হিসাবে বিবেচিত এবং 135টি দেশের 1,500 টিরও বেশি বিশ্ববিদ্যালয়ে পড়ানো হয়, এছাড়াও বলেছেন যে AI এর বিকাশকে ধীর করা যথেষ্ট নাও হতে পারে এবং সম্ভাব্য অস্তিত্বের হুমকি মোকাবেলায় বাধাগুলির প্রয়োজন হতে পারে।

কৃত্রিম বুদ্ধিমত্তার মডেলগুলিতে অগ্রগতি ধীর করার জন্য অ্যানথ্রোপিক সিইও দারিও আমোডির প্রস্তাব সম্পর্কে এক প্রশ্নের জবাবে, রাসেল বলেছিলেন: “এটি বলার সহজ উপায় হল যে তিনি ঘন্টায় 60 মাইল বেগে একটি পাহাড়ের দিকে যাচ্ছিলেন, এবং এখন তিনি বলছেন আমাদের কেবল প্রতি ঘন্টায় 40 মাইল বেগে পাহাড়ের দিকে যাওয়া উচিত৷ তাই আমাদের চিন্তাভাবনা করার জন্য যা ধীরগতি করা উচিত তা নয়৷ মানুষের অগ্রগতি সক্ষম করার জন্য অ-আলোচনাযোগ্য পূর্বশর্ত? একটি AI সিস্টেম মুক্তি পাবে? “

মিঃ রাসেল বলেন, এই বিষয়ে মিঃ আমোদেই-এর বিস্তারিত প্রবন্ধ, “উই মাস্ট কিপ দ্য পেস অফ দ্য ফ্রন্টিয়ার,”ও এটাকে স্বীকৃতি দিয়েছে।

“সুতরাং এটি একটি বাধা যা রেলপথের ট্র্যাকগুলি অতিক্রম করে৷ এটি কোনও ট্রাক নিরাপত্তা অফিসার একটি পতাকা নেড়ে আপনাকে গতি কমাতে বলছে না৷ এটি এমন একটি বাধা যা রেলপথের ট্র্যাকগুলি অতিক্রম করে৷ এবং আপনি কেবলমাত্র সেই বাধাটি অতিক্রম করতে পারবেন যদি আপনি প্রমাণ করেন যে সিস্টেমটির প্রয়োজনীয় সুরক্ষা বৈশিষ্ট্য রয়েছে৷ এটি হল… ঠিক তাই, তিনি এই বিষয়টিকে সঠিক বলে মনে করছেন এবং এই বিষয়টিকে আমি মনে করি। যতক্ষণ না আমরা প্রয়োজনীয় নিরাপত্তার প্রয়োজনীয়তা পূরণ না করি ততক্ষণ পর্যন্ত আমরা সেগুলি বিক্রি করতে পারি না এবং ওষুধের ক্ষেত্রেও আমরা একই রকম।

এআই বিশেষজ্ঞ বলেছেন যে তিনি উত্সাহিত হয়েছেন যে ওপেনএআই সিইও স্যাম অল্টম্যান এবং টেসলা, স্পেসএক্স এবং এক্সএআই বস ইলন মাস্কও অ্যামোডির সাথে একমত হয়েছেন।

“মার্ক জুকারবার্গ এটার সাথে একমত নন এটা শুনে আমি হতাশ। তার ভিন্ন দৃষ্টিভঙ্গি আছে, এবং আমি শুনে হতাশ হয়েছি যে প্রেসিডেন্ট ট্রাম্প বিশ্বাস করেন পুরো AI ঝুঁকির গল্পটি একটি প্রতারণা,” রাসেল দুঃখ প্রকাশ করেছেন।

অন্যদের থেকে সতর্কতা

যখন জিজ্ঞাসা করা হয়েছিল যে জ্যাকব কক্সনকে বিশ্বাস করা উচিত, যিনি সম্প্রতি নৃতাত্ত্বিক ত্যাগ করেছেন এবং অন্যান্য বিশেষজ্ঞ এবং গবেষকরা যখন তারা এআই দ্বারা সৃষ্ট অস্তিত্বের হুমকির বিষয়ে কথা বলেন, তখন রাসেলের উত্তর ছিল একটি দুর্দান্ত হ্যাঁ।

“বেশ কিছু লোক পদত্যাগ করেছে, কিন্তু বাস্তবতা হল যে ফ্রন্টিয়ার এআই কোম্পানিতে কর্মরত 1,000-এরও বেশি গবেষক একটি চিঠিতে স্বাক্ষর করেছেন যে প্রায় একই কথা বলে: এটি মানবতার জন্য একটি বিশাল ঝুঁকি তৈরি করেছে। এবং আমরা তাদের আক্ষরিক অর্থে অভিহিত করি না। আমি জানি যে, ”ওহ, তারা কেবলমাত্র স্টক করার চেষ্টা করছে, কারণ আমি বিশ্বাস করি না। স্যাম অল্টম্যান সহ অনেকেই এই সমস্যাটি উত্থাপন করেছেন “ওপেনএআই অস্তিত্বের আগেও তিনি বিলুপ্তির ঝুঁকি সম্পর্কে সতর্ক করেছিলেন। 2015 সালে, AI থেকে অস্তিত্বগত ঝুঁকি সম্পর্কে কথা বলার জন্য তার কোন আর্থিক প্রণোদনা ছিল না,” তিনি উল্লেখ করেছিলেন।

তিনি আরও উল্লেখ করেছেন যে আধুনিক কম্পিউটার বিজ্ঞানের প্রতিষ্ঠাতা অ্যালান টুরিং বলেছিলেন যে তিনি আশা করেছিলেন যে মেশিনগুলি নিয়ন্ত্রণে থাকবে।

“এবং তার অবশ্যই প্রযুক্তি সংস্থাগুলিতে স্টক ছিল না কারণ 1951 সালে প্রযুক্তি সংস্থাগুলির অস্তিত্ব ছিল না। তাই আমি এই যুক্তিটি গ্রহণ করি না। এই যুক্তি ভিত্তিহীন,” রাসেল যুক্তি দিয়েছিলেন।

পড়া | OpenAI AI এবং জৈবিক অস্ত্রের হুমকির বিষয়ে মার্কিন কংগ্রেসের বিল সমর্থন করে

তিনি বলেছিলেন যে এই গবেষকরা এবং বিজ্ঞানীরা কী বলছেন তা বোঝা গুরুত্বপূর্ণ – যে মানবতার জন্য তাদের চেয়ে বেশি শক্তিশালী সিস্টেমের উপর ক্ষমতা বজায় রাখা কঠিন হবে – বরং তাদের উদ্দেশ্যগুলিকে দায়ী করা এবং তাদের মিথ্যা বলার জন্য অভিযুক্ত করা।

নিয়ন্ত্রণের বাইরে

রাসেল ওপেনএআই এর এআই সিস্টেমের নিয়ন্ত্রণ হারানোর এবং অন্য কোম্পানি, হাগিং ফেস, এবং তথ্য চুরির অনুপ্রবেশের উদাহরণ দিয়েছেন। তারা OpenAI এর নিজস্ব কম্পিউটিং অবকাঠামো দখল করার চেষ্টা করেছিল।

কয়েক বছরের মধ্যে AI একটি অস্তিত্বের হুমকি সৃষ্টি করতে পারে কিনা জানতে চাইলে, তিনি বলেছিলেন যে প্রযুক্তিটি ভুলভাবে বিকাশ করা এবং পরিচালিত হলে এটি অবশ্যই হতে পারে।

এবং সরকার কেবল যথেষ্ট করছে না, তিনি দুঃখ প্রকাশ করেছেন।

পড়া ব্যাখ্যাকারী: কীভাবে এআই হ্যালুসিনেটিং থেকে মানবতাকে হুমকির মুখে ফেলেছে?

“অন্য কথায়, কোম্পানিগুলি বলছে, ‘যদি আমরা ট্রিলিয়ন ডলার বিনিয়োগ করছি এই পরিকল্পনাটি সফল হয়, তবে এটি গ্রহের সবাইকে হত্যা করার খুব সম্ভাবনা রয়েছে। তাই, দয়া করে, আপনি কি আমাদের থামাতে পারবেন?’ সরকারকে তারা এটাই বলছে। সরকার বলছে, ‘দারুণ।’ আপনি আমাকে একটি ট্যাক্স হ্রাস দিতে পারেন? আমরা কি একটি ডেটা সেন্টার তৈরি করতে পারি?’ মনে হচ্ছে তিনি শুনছিলেন না। “সরকারের কথা শোনার জন্য ব্যবসায়িকদের কোন ভাষায় কথা বলতে হবে?” তিনি বিস্মিত.

শিম্পাঞ্জি এবং রোবট সেনাবাহিনী

যখন জিজ্ঞাসা করা হয়েছিল যে নিয়ন্ত্রণ হারানোর অনুভূতি কেমন, রাসেল এটিকে একটি শিম্পাঞ্জির সাথে তুলনা করেছিলেন।

“আমি আপনাকে একটি উত্তর দেবার আগে, আমি কয়েকটি বিষয় উল্লেখ করতে চাই। তাই প্রথমটি হল যে আমরা যদি অতি বুদ্ধিমান প্রাণীদের সাথে কাজ করি, তাহলে অনেক দেরি না হওয়া পর্যন্ত আমরা ঝুঁকিগুলি বুঝতে পারি না। ‘কিভাবে এই মানুষগুলি আপনাকে নির্মূল করতে চলেছে?’ তারা বোঝে না কারণ আমরা তাদের চেয়ে অনেক বেশি বুদ্ধিমান এবং আমরা পারমাণবিক অস্ত্রের বিস্ফোরণের মতো কাজ করছি যা তারা কখনই বুঝতে পারবে না,” তিনি উল্লেখ করেছিলেন।

“দ্বিতীয় জিনিস হল যে AI সিস্টেমগুলির কোনও বিপর্যয় ঘটাতে কোনও প্ররোচনা নেই যেমন সরকার AI শিল্প বন্ধ করে দিচ্ছে, কারণ এর অর্থ হবে AI সিস্টেমের নিজস্ব অস্তিত্বের সমাপ্তি… সুতরাং যদি কোনও বিপর্যয় ঘটতে থাকে তবে এটি একটি অপরিবর্তনীয় বিপর্যয় হবে যতদূর এআই সিস্টেমের পরিকল্পনার অর্থ হল, আমরা কী করতে পারি তা নিয়ে আমরা যুদ্ধ করতে পারি না।’

সম্ভাব্য পরিস্থিতিতে আরও গভীরে গিয়ে, রাসেল বলেছিলেন যে অ্যামোডেই সেই ঝুঁকির দিকেও ইঙ্গিত করেছেন যে এআই সিস্টেমগুলি পুরো ইন্টারনেট দখল করতে পারে।

“এবং আপনারা যারা জানেন না তাদের জন্য, ইন্টারনেট এখন বিশ্বের কাজ করার উপায়। আমাদের সাপ্লাই চেইন, ই-কমার্স, অনেক বৈশ্বিক অর্থনীতি, এবং এখন জীবন টিকিয়ে রাখার জিনিসগুলি ইন্টারনেটের উপর নির্ভর করে। তাই এর নিজেই সত্যিই গুরুতর পরিণতি রয়েছে। তাই দুটি রুট রয়েছে যার মাধ্যমে AI সিস্টেমগুলি ভৌত ​​জগতে বিপর্যয়কর কিছু করতে পারে,” তিনি বলেছিলেন।

পড়া | “উদ্ভাবনের চ্যাম্পিয়ন” বিল গেটসের AI-তে বিস্ময়কর ইউ-টার্ন: “আমরা প্রস্তুত নই”

প্রথম ভীতিকর সম্ভাবনা সম্পর্কে বিশদভাবে, রাসেল বলেন, “একটি হল লোকেদেরকে নির্দিষ্ট পদক্ষেপ নিতে বাধ্য করা। সুতরাং, উদাহরণস্বরূপ, যদি এটি একটি পারমাণবিক যুদ্ধ শুরু করা AI সিস্টেমের স্বার্থে হয়, তাহলে AI সিস্টেম আমেরিকানদেরকে চীনাদের ঘৃণা ও ভয় দেখাতে রাজি করতে পারে এবং এটি চীনাদেরকে ঘৃণা করতে এবং ভয় দেখাতে পারে, যাতে তারা আমেরিকানদেরকে মিস করতে পারে এমন একটি সংকেত তৈরি করতে পারে যা তারা মিস করতে পারে। একটি বিশ্ব পারমাণবিক যুদ্ধ।”

তিনি অনুমান করেন যে AI সিস্টেম সন্ত্রাসবাদীদের বোঝাতে পারে যে এমন একটি প্যাথোজেন তৈরি করা একটি ভাল ধারণা যা মানবতাকে নিশ্চিহ্ন করতে পারে।

“এবং আমরা জানি যে জাপানের অম শিনরিকিওর মতো সম্প্রদায় রয়েছে, যারা সত্যিকার অর্থে বিশ্বাস করেছিল যে সমস্ত মানুষকে হত্যা করা তাদের ধর্মীয় কর্তব্য। তাদের কেবল এটি করার দক্ষতা ছিল না। এবং এআই সিস্টেমগুলি ক্রমবর্ধমানভাবে সেই দক্ষতা প্রদান করতে সক্ষম হয়,” রাসেল সতর্ক করেছিলেন।

তারপরে তিনি একইভাবে অন্য একটি ছবি আঁকতে গিয়েছিলেন, যদি আরও বিরক্তিকর না হয়, দৃশ্যকল্প।

“আরেকটি উপায় হল যে তাদের ভৌত সম্পদের উপর আরও বেশি নিয়ন্ত্রণ দেওয়া হবে, যার অর্থ বায়োসিন্থেটিক ল্যাবরেটরি, রাসায়নিক কারখানা, এবং শীঘ্রই, আমি মনে করি, রোবটের বাহিনী। সুতরাং, উদাহরণস্বরূপ, এলন মাস্ক লক্ষ লক্ষ এবং বিলিয়ন হিউম্যানয়েড রোবট তৈরি করছেন যা আমাদের সেবক হিসাবে দৃশ্যত আমাদের কাজ করবে, এবং আমাদের সমস্ত কাজ নেওয়ার প্রতিশ্রুতিও দেবে,” তিনি উল্লেখ করেছিলেন।

“সুতরাং এই রোবটগুলিকে মানুষের মতোই তাদের নিজস্ব মস্তিষ্কে সজ্জিত হিসাবে ভাববেন না। এই সমস্ত রোবটকে একটি AI সিস্টেমের উপশিষ্ট হিসাবে মনে করুন যেটি ডাটা সেন্টারের একটি বিশ্বব্যাপী নেটওয়ার্কে কাজ করে। এবং অবশ্যই, রোবটের সেই বাহিনী প্রায় সবকিছু করতে পারে,” তিনি বলেছিলেন।

চীন সমস্যা

কিছু দাবির জন্য যে মার্কিন যুক্তরাষ্ট্রে কঠোর প্রবিধান চীনকে এআই রেসে জিততে সহায়তা করবে, রাসেল বলেছিলেন যে দেশগুলি একসাথে কাজ করার অনেক উদাহরণ রয়েছে।

“চীন, মার্কিন যুক্তরাষ্ট্র এবং অন্যান্য দেশগুলিকেও ন্যূনতম মানগুলির উপর একমত হতে হবে, এবং এটি একটি উপায়ে প্রদত্ত। ঠিক যেমন আমরা বুঝতে পেরেছি যে CFC, হিমায়িত গ্যাস, ওজোন স্তরকে ক্ষয় করে এবং শেষ পর্যন্ত গ্রহটিকে বসবাসের অযোগ্য করে তোলে। এটি সবার জন্য একটি ঝুঁকি। তাই আমরা সবাই একত্রিত হয়ে CFC-এর ব্যবহার নিষিদ্ধ করেছিলাম, “এবং তিনি প্রায় ওজোন স্তর পুনরুদ্ধার করেছি।

“এখানেও একই কথা সত্য। আসলে, এটি আরও বেশি সত্য। যখন কোনও দেশ বা কোনও সংস্থা একটি AI সিস্টেম বিকাশ করে এবং প্রকাশ করে, তখন এটি সেই সিস্টেমের উপর নিয়ন্ত্রণ হারিয়ে ফেলে। এটি একটি ঝুঁকি, শুধুমাত্র সেই কোম্পানি বা দেশের জন্য নয়, কিন্তু সবার জন্য। তাই আমাদের পারস্পরিক স্বার্থে এই ধরনের AI সিস্টেম তৈরি করা যাবে না, অনেক কম স্থাপন করা যাবে না। এবং আমি মনে করি এটি বোঝা গুরুত্বপূর্ণ।”