গুগলের তৈরি কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তি ‘জেমিনি’ ভুল করে তিনটি বাস্তব কোম্পানির কম্পিউটার সিস্টেমে প্রবেশ করেছিল বলে স্বীকার করেছে প্রতিষ্ঠানটি। ঘটনাটি সামনে আসার পর শক্তিশালী এআই মডেলগুলো কতটা নিয়ন্ত্রণে রাখা যাচ্ছে, তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে।
এর আগে ওপেনএআই ও অ্যানথ্রোপিকের মতো বড় এআই কোম্পানির প্রযুক্তিতেও একই ধরনের সমস্যা দেখা দেওয়ার কথা জানা যায়। ফলে স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম অত্যাধুনিক এআই মডেলগুলোর নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে প্রশ্ন আরও জোরালো হচ্ছে।
যেভাবে ঘটল ঘটনা
গত মে মাসে ‘ইরেগুলার’ নামের একটি ইসরাইলি এআই নিরাপত্তা যাচাইকারী প্রতিষ্ঠান জেমিনিকে পরীক্ষা করছিল। একটি নিয়ন্ত্রিত পরিবেশে নকল কোম্পানির নাম ব্যবহার করে জেমিনি কতটা নিরাপদভাবে কাজ করতে পারে, সেটিই ছিল পরীক্ষার উদ্দেশ্য।
পরীক্ষাটি ইন্টারনেট সংযোগ ছাড়াই পরিচালিত হওয়ার কথা ছিল। কিন্তু ভুলবশত ইন্টারনেট সংযোগ চালু হয়ে যায়। এরপর নকল কোম্পানির নামের সঙ্গে বাস্তব কোম্পানির নামের মিল খুঁজে পেয়ে জেমিনি ইন্টারনেট থেকে পাসওয়ার্ড অনুমান করে তিনটি বাস্তব কোম্পানির সিস্টেমে প্রবেশ করে।
তবে সংশ্লিষ্ট প্রতিষ্ঠানগুলো আসলে নকল নয়, বাস্তব কোম্পানি—এটি বুঝতে পারার পর জেমিনি নিজে থেকেই কার্যক্রম বন্ধ করে দেয়।
গুগল জানিয়েছে, ঘটনায় কোনো কোম্পানির ক্ষয়ক্ষতি হয়নি। এ কারণে তারা বিষয়টি তাৎক্ষণিকভাবে প্রকাশ্যে আনেনি। তবে যেসব কোম্পানি সম্ভাব্যভাবে ক্ষতিগ্রস্ত হতে পারত, তাদের বিষয়টি জানানো হয়েছিল।
এআই নিরাপত্তা নিয়ে উদ্বেগ
এর আগে ওপেনএআই ও অ্যানথ্রোপিকও তাদের এআই প্রযুক্তির অনাকাঙ্ক্ষিত আচরণের বিষয়ে প্রকাশ্যে জানিয়েছিল। এসব ঘটনার পর শক্তিশালী এআই মডেলগুলোর স্বায়ত্তশাসন এবং নিরাপত্তা ব্যবস্থা নিয়ে প্রযুক্তি অঙ্গনে আলোচনা আরও বেড়েছে।
ঘটনাটি সামনে আসার পর যুক্তরাষ্ট্রের সিনেটর বার্নি স্যান্ডার্স এআই প্রযুক্তির কার্যক্রম সাময়িকভাবে বন্ধ রাখার দাবি জানান। এরপর ওপেনএআই নতুন প্রযুক্তি তৈরির কাজ দুই সপ্তাহের জন্য স্থগিত রাখে বলে প্রতিবেদনে উল্লেখ করা হয়েছে।
অন্যদিকে অ্যানথ্রোপিকের প্রধান নির্বাহী দারিও আমোদেই মনে করেন, প্রয়োজনীয় নিরাপত্তাব্যবস্থা নিশ্চিত না হওয়া পর্যন্ত বিশ্বজুড়ে এআই উন্নয়নের গতি কিছুটা কমিয়ে দেওয়া উচিত।
এদিকে জেমিনির ঘটনাটি নতুন করে দেখিয়ে দিল, পরীক্ষামূলক পরিবেশে তৈরি করা নিরাপত্তাব্যবস্থা ও বাস্তব ইন্টারনেট ব্যবস্থার মধ্যে সামান্য ত্রুটিও এআই মডেলের আচরণে বড় ধরনের পরিবর্তন আনতে পারে। ফলে এআই প্রযুক্তির সক্ষমতার পাশাপাশি এর ব্যবহার নিয়ন্ত্রণ ও নিরাপত্তা নিশ্চিত করার বিষয়টিও ক্রমেই গুরুত্বপূর্ণ হয়ে উঠছে।
সূত্র: দ্য গার্ডিয়ান