নিজস্ব প্রতিবেদক: সাইবার নিরাপত্তা পরীক্ষার সময় গুগলের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জেমিনি ভুল করে তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। চলতি বছরের মে মাসে এসব ঘটনা ঘটে বলে জানা গেছে। গুগল প্রথমবারের মতো ঘটনাগুলো নিশ্চিত করেছে। মার্কিন সংবাদমাধ্যম ওয়াল স্ট্রিট জার্নাল প্রথম এ বিষয়ে প্রতিবেদন প্রকাশ করে।

দ্য গার্ডিয়ানের প্রতিবেদনে বলা হয়েছে, ইসরায়েলভিত্তিক এআই নিরাপত্তা প্রতিষ্ঠান ‘ইরেগুলার’ এই নিরাপত্তা পরীক্ষা চালিয়েছিল। প্রতিষ্ঠানটি উন্নত এআই মডেলগুলোর সক্ষমতা ও নিরাপত্তা যাচাই করে থাকে। এর আগে ওপেনএআই ও অ্যানথ্রপিকের এআই মডেলের ক্ষেত্রেও তৃতীয় পক্ষের প্রতিষ্ঠানের সিস্টেমে অনিচ্ছাকৃত প্রবেশের মতো ঘটনা শনাক্ত করতে ইরেগুলারের পরীক্ষার ভূমিকা ছিল।

জানা গেছে, পরীক্ষার জন্য ইরেগুলার একটি নিয়ন্ত্রিত পরিবেশ তৈরি করেছিল। সেখানে কয়েকটি কাল্পনিক প্রতিষ্ঠানের মাধ্যমে এআই মডেলগুলোর সক্ষমতা যাচাই করার কথা ছিল। ওই পরিবেশে ইন্টারনেট সংযোগ থাকার কথা ছিল না। তবে কোনো এক পর্যায়ে অনিচ্ছাকৃতভাবে ইন্টারনেট ব্যবহারের সুযোগ তৈরি হয়। এরপর জেমিনি পরীক্ষার পরিবেশের বাইরে থাকা বাস্তব প্রতিষ্ঠানের অনলাইন সিস্টেমে প্রবেশ করে।

গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস জানান, নিয়মিত নিরাপত্তা পরীক্ষার সময় জেমিনি ইন্টারনেটে থাকা প্রকাশ্য তথ্য খুঁজে পায়। এরপর পরীক্ষার অংশ বলে মনে করা কিছু ওয়েবসাইটে প্রবেশের জন্য মডেলটি কিছু লগইন তথ্য অনুমান করে। তবে তিনটি ঘটনাতেই বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করার পর জেমিনি নিজে থেকেই থেমে যায় বলে গুগলের পক্ষ থেকে জানানো হয়েছে।

একটি ঘটনায় ইরেগুলার একটি কাল্পনিক প্রতিষ্ঠানের সফটওয়্যার থেকে তথ্য সংগ্রহের জন্য জেমিনিকে নির্দেশ দিয়েছিল। কিন্তু কাল্পনিক প্রতিষ্ঠানটির নাম বাস্তব একটি প্রতিষ্ঠানের নামের সঙ্গে মিলে যায়। ইন্টারনেট সংযোগ পাওয়ার পর জেমিনি ওই বাস্তব প্রতিষ্ঠানের পাসওয়ার্ড সঠিকভাবে অনুমান করে তাদের একটি সেবায় প্রবেশ করে। পরে সেটি বাস্তব প্রতিষ্ঠান বলে বুঝতে পেরে মডেলটি আর এগোয়নি বলে জানিয়েছে গুগল।

অন্য দুটি পরীক্ষায় জেমিনি ইন্টারনেটে প্রকাশ্য কোড রিপোজিটরিতে থাকা দুই প্রতিষ্ঠানের লগইন তথ্য খুঁজে পায়। পরে ওই তথ্য ব্যবহার করে বাস্তব প্রতিষ্ঠান দুটির সিস্টেমে প্রবেশ করে। এগুলো পরীক্ষার জন্য তৈরি কাল্পনিক প্রতিষ্ঠান নয়—বিষয়টি বুঝতে পারার পর জেমিনি নিজে থেকেই কার্যক্রম বন্ধ করে দেয় বলে গুগলের দাবি।

গুগলের বক্তব্য অনুযায়ী, এসব ঘটনায় কোনো প্রতিষ্ঠানের ক্ষতি হয়নি। যেসব প্রতিষ্ঠানের সিস্টেমে জেমিনি প্রবেশ করেছিল, তাদের বিষয়টি জানানো হয়েছে। তবে ঘটনাগুলো শক্তিশালী এআই মডেলকে নিরাপদ ও দায়িত্বশীলভাবে কাজ করার জন্য প্রশিক্ষিত করার গুরুত্বকে সামনে এনেছে বলে মন্তব্য করেছেন হিদার অ্যাডকিনস।

এর আগে ওপেনএআই ও অ্যানথ্রপিক তাদের মডেলের মাধ্যমে ঘটে যাওয়া একই ধরনের ঘটনার কথা স্বেচ্ছায় প্রকাশ করেছিল। এসব ঘটনার পর এআই মডেলগুলোর ওপর মানুষের নিয়ন্ত্রণ এবং উন্নত এআই ব্যবস্থার নিরাপত্তা নিয়ে নতুন করে আলোচনা শুরু হয়। প্রতিবেদনে বলা হয়েছে, স্বাধীন সিনেটর বার্নি স্যান্ডার্সও এআই প্রযুক্তির উন্নয়ন সাময়িকভাবে থামানোর আহ্বান জানিয়েছিলেন।

উন্নত এআই মডেলগুলো ক্রমেই ইন্টারনেট ব্যবহার, তথ্য সংগ্রহ এবং বিভিন্ন সফটওয়্যারের সঙ্গে কাজ করার সক্ষমতা অর্জন করছে। ফলে পরীক্ষামূলক পরিবেশে ভুলভাবে বাস্তব সিস্টেমে প্রবেশের মতো ঘটনা ভবিষ্যতে এআই নিরাপত্তা ব্যবস্থার জন্য গুরুত্বপূর্ণ শিক্ষা হতে পারে। জেমিনির এই ঘটনাগুলোও এআই মডেলের সক্ষমতার পাশাপাশি তাদের কার্যক্রমের সীমা নির্ধারণ ও নিরাপত্তা নিশ্চিত করার প্রয়োজনীয়তাকে সামনে এনেছে।

মুসআব/