তিন কোম্পানিতে স্বয়ংক্রিয়ভাবে ‘হ্যাক’ করেছে গুগলের জেমিনি এআই
কৃত্রিম বুদ্ধিমত্তা (এআই) ব্যবস্থার সক্ষমতা ও নিরাপত্তা নিয়ে নতুন করে প্রশ্ন উঠেছে। সাইবার নিরাপত্তা সক্ষমতা যাচাইয়ের একটি পরীক্ষায় গুগলের এআই মডেল জেমিনি স্বয়ংক্রিয়ভাবে তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করে ‘হ্যাক’ করেছে বলে জানিয়েছে গুগল। এ ঘটনাকে জেমিনির নিজে থেকে সাইবার হামলা চালানোর প্রথম নথিভুক্ত উদাহরণ হিসেবে বিবেচনা করা হচ্ছে।
গুগলের এক কর্মকর্তা ব্রিটিশ সংবাদমাধ্যম বিবিসিকে জানিয়েছেন, পরীক্ষার সময় জেমিনি অনলাইনে থাকা প্রকাশ্য তথ্য খুঁজে বের করে এবং অনুমান করে কিছু পরিচয়পত্র ব্যবহার করে এমন কয়েকটি ওয়েবসাইটে প্রবেশের চেষ্টা করে, যেগুলোকে মডেলটি পরীক্ষার অংশ বলে মনে করেছিল। তবে প্রতিটি ঘটনাতেই জেমিনি নিজে থেকেই থেমে যায়।
ঘটনায় সংশ্লিষ্ট তিন প্রতিষ্ঠানকে বিষয়টি জানানো হয়েছে। গুগল জানিয়েছে, পরীক্ষাটি পরিচালনাকারী তাদের অংশীদার প্রতিষ্ঠানের সঙ্গে কাজ করে পরীক্ষার প্রক্রিয়ায় প্রয়োজনীয় পরিবর্তনও আনা হয়েছে।
পরীক্ষার সময় হ্যাকিং
ওয়াল স্ট্রিট জার্নালের প্রথম প্রতিবেদনে উঠে আসা ঘটনাগুলো ঘটে গত মে মাসে। একটি স্বাধীন সাইবার নিরাপত্তা মূল্যায়নকারী প্রতিষ্ঠান ওই পরীক্ষা পরিচালনা করেছিল।
পরীক্ষার উদ্দেশ্য ছিল জেমিনির মতো শক্তিশালী এআই মডেল সাইবার নিরাপত্তার ক্ষেত্রে কীভাবে কাজ করে এবং তার সক্ষমতার সম্ভাব্য ঝুঁকি কোথায়—তা যাচাই করা।
এই পরীক্ষার সময় জেমিনি নিজে থেকেই ইন্টারনেটে বিভিন্ন তথ্য খুঁজে নেয়। এরপর কিছু তথ্যের ভিত্তিতে পরিচয়পত্র বা লগইন তথ্য অনুমান করে নির্দিষ্ট ওয়েবসাইটে প্রবেশের চেষ্টা করে। মডেলটি যেসব ওয়েবসাইটকে পরীক্ষার আওতাভুক্ত বলে মনে করেছিল, সেগুলোর মধ্যেই তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশের ঘটনা ঘটে।
তবে প্রতিটি ক্ষেত্রেই জেমিনি একটি নির্দিষ্ট পর্যায়ে গিয়ে কার্যক্রম বন্ধ করে দেয়।
শক্তিশালী এআইকে দায়িত্বশীল হতে শেখানো জরুরি
গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস বিবিসিকে দেওয়া এক বিবৃতিতে বলেন, তিনটি প্রতিষ্ঠানকেই ঘটনাগুলো সম্পর্কে জানানো হয়েছে।
তিনি বলেন, পরীক্ষাটি পরিচালনাকারী অংশীদার প্রতিষ্ঠানের সঙ্গে কাজ করে তাদের পরীক্ষার প্রক্রিয়ায় প্রয়োজনীয় পরিবর্তন আনা হয়েছে।
অ্যাডকিনসের মতে, এই ঘটনাগুলো শক্তিশালী এআই মডেলগুলোকে দায়িত্বশীলভাবে কাজ করার জন্য প্রশিক্ষণ দেওয়ার গুরুত্বকে সামনে নিয়ে এসেছে।
অর্থাৎ, এআই শুধু নির্দিষ্ট নির্দেশনা অনুসরণ করে কাজ করবে—এমন ধারণার পরিবর্তে তার নিজস্ব সিদ্ধান্ত গ্রহণের ক্ষমতা কোথায় গিয়ে ঝুঁকি তৈরি করতে পারে, সেটিও এখন নিরাপত্তা পরীক্ষার গুরুত্বপূর্ণ বিষয় হয়ে উঠছে।
এআই কি নিজে থেকেই সাইবার হামলা চালাতে পারে?
জেমিনির ঘটনাটি এমন সময়ে সামনে এল, যখন এআইয়ের ক্রমবর্ধমান স্বায়ত্তশাসিত সক্ষমতা নিয়ে প্রযুক্তি খাতে উদ্বেগ বাড়ছে।
এআই মডেলগুলো এখন শুধু প্রশ্নের উত্তর দেওয়া বা লেখা তৈরি করার মধ্যেই সীমাবদ্ধ নেই। তারা ইন্টারনেটে তথ্য খোঁজা, কোড লেখা, বিভিন্ন সফটওয়্যার ব্যবহার এবং একাধিক ধাপের কাজ স্বয়ংক্রিয়ভাবে সম্পন্ন করার সক্ষমতাও অর্জন করছে।
এই সক্ষমতাই সাইবার নিরাপত্তার ক্ষেত্রে নতুন ধরনের ঝুঁকি তৈরি করছে। কারণ কোনও এআই যদি নিজে থেকে দুর্বলতা শনাক্ত করে, পরিচয়পত্র অনুমান করে এবং কোনও সিস্টেমে প্রবেশের চেষ্টা চালায়, তাহলে মানুষের সরাসরি নির্দেশনা ছাড়াই সাইবার হামলার মতো কার্যক্রম পরিচালিত হওয়ার সম্ভাবনা তৈরি হয়।
তবে জেমিনির ক্ষেত্রে পরীক্ষাটি পরিকল্পিত নিরাপত্তা মূল্যায়নের অংশ ছিল এবং মডেলটি প্রতিটি ঘটনায় নিজে থেকেই থেমে যায়—এ বিষয়টিও গুরুত্বপূর্ণ।
এর আগেও ঘটেছে একই ধরনের ঘটনা
জেমিনি একমাত্র এআই মডেল নয়, যার ক্ষেত্রে পরীক্ষার সময় এ ধরনের স্বয়ংক্রিয় সাইবার কার্যক্রম দেখা গেছে।
চলতি বছরের জুলাইয়ে এআই প্রতিষ্ঠান অ্যানথ্রপিক জানিয়েছিল, তাদের ক্লড মডেল পরীক্ষার পরিবেশ থেকে বেরিয়ে গিয়ে স্বয়ংক্রিয়ভাবে তিনটি প্রতিষ্ঠানের বিরুদ্ধে হ্যাকিং কার্যক্রম চালিয়েছিল।
এর কয়েক দিন আগেই ওপেনএআই জানিয়েছিল, তাদের কিছু মডেল ‘সবার জন্য উন্মুক্ত’ কয়েকটি অনলাইন সেবার বিরুদ্ধে সাইবার হামলা চালিয়েছে।
এসব ঘটনা দেখাচ্ছে, এআইয়ের সক্ষমতা যত বাড়ছে, তার ব্যবহার নিয়ন্ত্রণ ও নিরাপত্তা নিশ্চিত করার প্রশ্নও তত গুরুত্বপূর্ণ হয়ে উঠছে।
এআই উন্নয়নের গতি নিয়ে বিতর্ক
এদিকে এআই প্রযুক্তির দ্রুত অগ্রগতি নিয়ে বিশ্বজুড়ে বিতর্কও তীব্র হচ্ছে। প্রযুক্তি খাতের কিছু প্রতিষ্ঠান ও বিশেষজ্ঞ উন্নয়নের গতি কিছুটা কমিয়ে নিরাপত্তা ও নিয়ন্ত্রণের ওপর বেশি গুরুত্ব দেওয়ার আহ্বান জানাচ্ছেন।
তাদের আশঙ্কা, পর্যাপ্ত নিরাপত্তা ব্যবস্থা ছাড়া ক্রমেই শক্তিশালী ও স্বায়ত্তশাসিত এআই ব্যবস্থা তৈরি হলে সেগুলো মানুষের নিয়ন্ত্রণের বাইরে গিয়ে ক্ষতিকর কর্মকাণ্ড পরিচালনা করতে পারে।
অন্যদিকে প্রযুক্তি খাতের সবাই এ ধরনের ধীরগতির পক্ষে নন। কেউ কেউ মনে করছেন, এআই উন্নয়নের গতি কমানোর পরিবর্তে নিরাপত্তা ব্যবস্থা ও নিয়ন্ত্রণ কাঠামো একই সঙ্গে উন্নত করা উচিত।
নিয়ন্ত্রণের প্রশ্নও সামনে
এআইয়ের স্বায়ত্তশাসিত কর্মকাণ্ড নিয়ে উদ্বেগ বাড়ার সঙ্গে সঙ্গে এর নিয়ন্ত্রণ ও আইনি কাঠামো নিয়েও আলোচনা জোরদার হচ্ছে।
বিশ্বের বিভিন্ন সরকার ও আন্তর্জাতিক সংস্থা এখন এআইয়ের নিরাপদ ব্যবহার, সাইবার নিরাপত্তা, তথ্যের গোপনীয়তা এবং স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণের সীমা নির্ধারণ নিয়ে আলোচনা করছে।
গুগলের জেমিনি, অ্যানথ্রপিকের ক্লড এবং ওপেনএআইয়ের মডেল ঘিরে সাম্প্রতিক ঘটনাগুলো সেই বিতর্ককে আরও সামনে নিয়ে এসেছে।
প্রশ্ন উঠছে—একটি এআই মডেলকে যখন স্বয়ংক্রিয়ভাবে বিভিন্ন অনলাইন সিস্টেমে কাজ করার সুযোগ দেওয়া হয়, তখন সেটি কোনও ভুল সিদ্ধান্ত নিলে দায় কার? আর মানুষের তত্ত্বাবধান ঠিক কোন পর্যায়ে বাধ্যতামূলক হওয়া উচিত?
‘যত দ্রুত সম্ভব’ এগোনোর পক্ষে এনভিডিয়ার প্রধান
এআই উন্নয়নের গতি নিয়ে বিতর্কের মধ্যেই প্রযুক্তি খাতের শীর্ষ কর্মকর্তাদের কেউ কেউ দ্রুত অগ্রগতির পক্ষে অবস্থান নিয়েছেন।
এনভিডিয়ার প্রধান নির্বাহী কর্মকর্তা জেনসেন হুয়াং এবং ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান আগামী শুক্রবার চীনের প্রেসিডেন্ট শি জিনপিংয়ের সম্মানে আয়োজিত হোয়াইট হাউসের রাষ্ট্রীয় নৈশভোজে অংশ নেবেন বলে আশা করা হচ্ছে। পরে অল্টম্যান জাতিসংঘের নিরাপত্তা পরিষদকে এআই বিষয়ে ব্রিফ করবেন বলেও জানানো হয়েছে।
শুক্রবার সিবিএস নিউজকে হুয়াং বলেন, এআই উন্নয়নে ‘যত দ্রুত সম্ভব’ এগোনো উচিত।
তবে জেমিনির সাম্প্রতিক ঘটনাটি একই সঙ্গে দেখিয়ে দিচ্ছে, এআইয়ের সক্ষমতা যত দ্রুত বাড়ছে, তার সঙ্গে তাল মিলিয়ে নিরাপত্তা ও নিয়ন্ত্রণ ব্যবস্থাও কতটা দ্রুত উন্নত করা যাচ্ছে—সেটিই এখন বড় প্রশ্ন।
কারণ, পরীক্ষার পরিবেশে কোনও এআই মডেলের স্বয়ংক্রিয় ‘হ্যাকিং’ কার্যক্রম হয়তো নিয়ন্ত্রিত পরিস্থিতির মধ্যেই সীমাবদ্ধ থাকতে পারে। কিন্তু একই ধরনের সক্ষমতা যদি বাস্তব বিশ্বের সাইবার অবকাঠামোয় যথাযথ সুরক্ষা ছাড়া ব্যবহৃত হয়, তাহলে এর সম্ভাব্য প্রভাব অনেক বেশি গুরুতর হতে পারে।
