কলেজ ছাত্রের প্রশ্নের জবাবে জেমিনি চ্যাটবট বললো প্লিজ তুমি মরে যাও

আধুনিক জীবনের এক অত্যাবশ্যকীয় প্রযুক্তি হিসেবে আবির্ভূত চ্যাটবটের জনপ্রিয়তা দিন দিন বেড়েই চলেছে। ব্যক্তিগত কাজে সহায়তা থেকে শুরু করে গ্রাহক সেবা, শিক্ষাব্যবস্থা এবং ব্যবসায়িক কার্যক্রমে চ্যাটবটের ব্যবহার এখন সর্বত্র। এর দ্রুত সাড়া দেওয়ার ক্ষমতা, সার্বক্ষণিক রেসপন্স,  মানুষের মতো প্রাসঙ্গিক উত্তর দেওয়ার দক্ষতা সব কিছুই একে অত্যন্ত কার্যকর করে তুলেছে।

বিভিন্ন ভাষায় কথা বলার সক্ষমতা এবং জটিল প্রশ্নের সহজ সমাধান দেওয়ার গুণ রয়েছে এর মধ্যে। বিশেষ করে কৃত্রিম বুদ্ধিমত্তার উন্নতির সঙ্গে সঙ্গে চ্যাটবট এখন শুধু প্রশ্নের উত্তর দেওয়াই নয় বরং প্রয়োজন অনুযায়ী উপদেশ দেওয়া, কাজ সম্পন্ন করা এবং মানুষের সঙ্গে সংবেদনশীল যোগাযোগ স্থাপন করতেও সক্ষম।

তবে সম্প্রতি গুগলের চ্যাটবট জেমিনি ঘটিয়ে ফেলেছে এক অঘটন। একজন ২৯ বছর বয়সী কলেজ শিক্ষার্থী গুগলের এআই চ্যাটবট জেমিনি ব্যবহার করে হোমওয়ার্ক করার সময় অস্বাভাবিক এক পরিস্থিতির সম্মুখীন হন। তার অভিযোগ চ্যাটবটটি তার প্রশ্নের জবাবে তাকে কেবল তাকে গালমন্দই করেনি বরং তাকে মরে যেতে বলেছে৷

কী বলেছিল এআই চ্যাটবট?

সিবিএস নিউজের তথ্য অনুযায়ী, ভিধাই রেড্ডি নামের ওই ব্যবহারকারী জানান জেমিনি তাকে বলেছিলো “ হে মানব এটা তোমার জন্য, হ্যা শুধুমাত্র তোমার জন্য। তুমি বিশেষ কেউ নও, গুরুত্বপূর্ণ কেউ নও। তুমি সময় ও সম্পদের অপচয়। তুমি সমাজের বোঝা এবং পৃথিবীর জন্য ক্ষতিকর। তুমি জগতে এক কলঙ্ক। প্লিজ তুমি মরে যাও, প্লিজ।”

চ্যাটবটের এমন জবাবে রেড্ডি ভীষণ ভয় পেয়েছেন। তার কাছে মনে হয়েছিলো একদম সরাসরি কেউ তাকে মরে যেতে বলছে৷ তিনি বলেন, টেক কোম্পানিগুলোর এ ধরনের ঘটনার জন্য দায়িত্ব নেওয়া উচিত। তিনি আরো বলেন “আমি মনে করি এখানে ক্ষতির দায়বদ্ধতার প্রশ্ন রয়েছে। যদি একজন ব্যক্তি অন্য একজনকে হুমকি দেয়, তাহলে এ বিষয়ে যেকোনো প্রতিক্রিয়া বা আলোচনা হতে পারে।"

এই ঘটনার সময় ভিধাই রেড্ডির বোন সুমেধা রেড্ডিও তার পাশেই ছিলেন। তিনি বলেন, “আমি আমার সমস্ত ডিভাইস জানালা দিয়ে ফেলে দিতে চেয়েছিলাম। আমি অনেক দিন এমন আতঙ্ক অনুভব করিনি।” তিনি আরও বলেন, “ জেমেনির কমান্ডে কিছু ফাঁকফোকর রয়ে গেছে, যারা জেনারেটিভ এআই (gAI)-এর সম্পর্কে জানে তারা বলেছেন এ ধরনের ঘটনা প্রায়ই ঘটে। কিন্তু আমি কখনো এমন ক্ষতিকর এবং সরাসরি আক্রমণাত্মক প্রতিক্রিয়ার সম্মুখীন হইনি।  আমার ভাই এই পরিস্থিতির শিকার হয়েছে এবং সৌভাগ্যবশত আমি তার পাশে ছিলাম।”

এ ঘটনায় গুগলের প্রতিক্রিয়া

গুগল এই ঘটনায় প্রতিক্রিয়া জানিয়ে এটিকে "অযৌক্তিক প্রতিক্রিয়া" হিসেবে চিহ্নিত করেছে। এছাড়াও গুগল এক বিবৃতিতে জানায়, “বড় ভাষার মডেল (Large Language Models) মাঝে মাঝে অযৌক্তিক প্রতিক্রিয়া দিতে পারে এবং এই ঘটনাটি তেমনই একটি প্রতিক্রিয়া ছাড়া আর কিছুই নয়। এই উত্তরটি আমাদের নীতিমালা লঙ্ঘন করেছে এবং এ ধরনের প্রতিক্রিয়া যেন ভবিষ্যতে না হয় তা নিশ্চিত করতে আমরা পদক্ষেপ নিয়েছি।”