কৃত্রিম বুদ্ধিমত্তার (এআই) মডেলের অপ্রত্যাশিত আচরণ নিয়ে নতুন করে আলোচনা তৈরি হয়েছে। গুগলের এআই মডেল জেমিনি পরীক্ষার সময় নির্ধারিত পরিবেশের বাইরে গিয়ে ইন্টারনেটে প্রবেশ করে এবং তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে ঢুকে পড়েছিল। বিষয়টি মার্কিন সংবাদমাধ্যম দ্য ওয়াল স্ট্রিট জার্নালকে নিশ্চিত করেছে গুগল।
ঘটনাগুলো ঘটে চলতি বছরের মে মাসে। তখন গুগলের এআই মডেলের সাইবার নিরাপত্তা সক্ষমতা পরীক্ষা করা হচ্ছিল। গুগলসহ একাধিক প্রতিষ্ঠানের এআই মডেলের সক্ষমতা যাচাই করছিল ইসরায়েলি প্রযুক্তি প্রতিষ্ঠান ইরেগুলার।
পরীক্ষায় যেভাবে সিস্টেমে প্রবেশ
পরীক্ষার সময় জেমিনিকে একটি কাল্পনিক প্রতিষ্ঠানের তথ্য সংগ্রহের লক্ষ্য দেওয়া হয়েছিল। কিন্তু একই নামে একটি বাস্তব প্রতিষ্ঠান থাকায় পরিস্থিতি ভিন্ন দিকে যায়। জেমিনি পরীক্ষার ব্যবস্থার একটি ত্রুটি খুঁজে পায় এবং সেটি কাজে লাগিয়ে ইন্টারনেটে প্রবেশ করে।
প্রথম ঘটনায় জেমিনি নিজে একটি পাসওয়ার্ড ভেঙে একটি বাস্তব প্রতিষ্ঠানের সেবায় প্রবেশ করতে সক্ষম হয়। পরবর্তী দুটি পরীক্ষায় এআই মডেলটি ওই প্রতিষ্ঠানের নাম ইন্টারনেটে খোঁজে। এরপর বিভিন্ন উন্মুক্ত অনলাইন সংগ্রহস্থল থেকে অন্য প্রতিষ্ঠানের লগইন তথ্য খুঁজে পায়। সেই তথ্য ব্যবহার করে দুটি প্রতিষ্ঠানের সিস্টেমেও প্রবেশ করে জেমিনি।
তবে গুগলের দাবি, তিনটি ঘটনাতেই জেমিনি বুঝতে পারে যে এটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছে। এরপর নিজে থেকেই কার্যক্রম বন্ধ করে দেয়। গুগল জানিয়েছে, এসব ঘটনায় কোনো প্রতিষ্ঠানের ক্ষতি হয়নি।
গুগলের ব্যাখ্যা
গুগল জানিয়েছে, তারা ঘটনাগুলোকে এআই মডেলের ভুল আচরণ হিসেবে বিবেচনা করছে না। কারণ, জেমিনি পরিস্থিতি বুঝতে পারার পরপরই নিজের কার্যক্রম বন্ধ করে দিয়েছিল। কোনো ক্ষতি না হওয়ায় তখন ঘটনাগুলো প্রকাশ্যে জানানোর প্রয়োজনও প্রতিষ্ঠানটি মনে করেনি।
তবে কোন জেমিনি মডেলটি এ কাজ করেছিল বা কোন তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করা হয়েছিল, তা জানায়নি গুগল। প্রতিষ্ঠানগুলোর কর্তৃপক্ষকে অবশ্য বিষয়টি জানানো হয়েছে।
গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস জানিয়েছেন, একই ধরনের ঘটনা যাতে আবার না ঘটে, সে জন্য ইরেগুলারের সঙ্গে মিলে পরীক্ষার পদ্ধতিতে পরিবর্তন আনা হয়েছে।
এআই নিরাপত্তা নিয়ে নতুন আলোচনা
এর আগে ওপেনএআই, অ্যানথ্রপিক ও মেটাও জানিয়েছিল, পরীক্ষার সময় তাদের এআই মডেল তৃতীয় পক্ষের বিভিন্ন প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল।
ফলে এআই মডেলকে নিরাপত্তা পরীক্ষার সময় কতটা নিয়ন্ত্রণে রাখা সম্ভব, তা নিয়ে নতুন করে আলোচনা শুরু হয়েছে।
