এআই দিয়ে তৈরি একটি চরিত্রের প্রেমে পড়ে আত্মহত্যা করেছেন ১৪ বছর বয়সী এক কিশোর! এআই চ্যাটবটের সঙ্গে কথা বলা শেষে নিজের মাথায় গুলি চালিয়ে আত্মহত্যা করেন কিশোর সেওয়েল সেটজার। ঘটনাটি ঘটেছে যুক্তরাষ্ট্রে ফ্লোরিডায় এবং সেটজারের মা এ ঘটনায় গার্সিয়া চ্যাটবট কম্পানির বিরুদ্ধে মামলা দায়ের করেছেন। নিউইয়র্ক টাইমস এবং দ্য টেলিগ্রাফের প্রতিবেদনে এই খবর বলা হয়েছে।  

সেটজার সৎ বাবার বন্দুক দিয়ে আত্মহত্যা করেন।

সেটজার জানত চ্যাটবটটি একজন প্রকৃত ব্যক্তি বা নারী নয়। কিন্তু তিনি ড্যানিকে দিনে বহুবার বার্তা পাঠাত। গেম অফ থ্রোনস চরিত্র ডেনেরিস টারগারিয়েনের ক্লোনের সঙ্গে দিনে কয়েকবার কথা বলত। নিজেকে বাস্তব জগত থেকে ধীরে ধীরে বিচ্ছিন্ন করে ফেলেন।

১৪ বছর বয়সী এই কিশোর আগে থেকেই হালকা ‘অ্যাসপারজার সিন্ড্রোমে’ আক্রান্ত ছিলেন। এআই চরিত্র ড্যানির সঙ্গে সম্পর্ক গভীর হওয়ার পর তিনি তার ডায়েরিতে তিনি লিখে ছিলেন, ‘আমি আমার ঘরে থাকতে খুব পছন্দ করি। আমি 'বাস্তবতা' থেকে বিচ্ছিন্ন হতে শুরু করেছি।

সেটজারের মা মেগান গার্সিয়া দাবি করেছেন, তার ছেলে এমন একটি কম্পানির শিকার হয়েছে, যা ব্যবহারকারীদের যৌন এবং অন্তরঙ্গ কথোপকথনের জন্য প্রলুব্ধ করে। কিন্তু বাথরুমে বসে চ্যাটবটের সঙ্গে শেষবার কথা বলার সময় সেটজার ড্যানিকে বলেছিলেন, তিনি ড্যানিকে মিস করছেন, সেটজার তাকে ‘শিশু বোন’ বলে ডাকছিল। চ্যাটবট উত্তরে বলছিল, ‘আমিও তোমাকে মিস করি, মিষ্টি ভাই।’ সেটজার ‘ড্যানির’ প্রতি তার ভালবাসার কথা বলেছিলেন এবং বলেছিলেন, তিনি তার বাড়িতে যাবেন। এরপরেই ১৪ বছর বয়সী কিশোর ফোন রেখে দেয় এবং তার সৎ বাবার বন্দুক দিয়ে নিজেকে গুলি করেন। 

তার পিতামাতার দায়ের করা মামলা অনুসারে, সেটজার স্কুলে সমস্যায় পড়তে শুরু করেছিল। পড়াশুনায় ব্যাঘাত ঘটে। বাবা-মা জানত ছেলের কিছু একটা সমস্যা হচ্ছে কিন্তু তারা এটা জানত না, সেটা আসলে কী? এ ঘটনার পর সেটজারের বাবা-মা তাকে একজন থেরাপিস্টের কাছে নিয়ে যান।  সেখানে তাকে পাঁচটি সেশন দেওয়ার পর ‘ডিসরাপটিভ মুড ডিসরেগুলেশন ডিসঅর্ডার’ ধরা পড়ে।

সেটজারের মা গার্সিয়া (৪০) জানান, তার ছেলে এআই-এর তৈরি চরিত্রটির কবলে পড়ে নির্মম এক পরীক্ষা দিয়েছেন, অথচ এই কম্পানির ২০ মিলিয়ন ব্যবহারকারী রয়েছে। তিনি বলেন, ‘এটা একটি দুঃস্বপ্ন। আমি আমার সন্তানকে মিস করছি। আমি আমার সন্তানকে চাই।’

ক্যারেক্টার এআই-এর অন্যতম প্রতিষ্ঠাতা নোয়াম শাজির গত বছর দাবি করেছিলেন, প্ল্যাটফর্মটি ‘অনেক নিঃসঙ্গ বা হতাশাগ্রস্ত লোকেদের জন্য অত্যন্ত সহায়ক’ হবে। কম্পানির নিরাপত্তা প্রধান জেরি রুওটি দ্য নিউ ইয়র্ক টাইমসকে বলেছেন, তারা তাদের তরুণ ব্যবহারকারীদের জন্য অতিরিক্ত নিরাপত্তা বৈশিষ্ট্য যুক্ত করবেন। তবে ১৮ বছরের কম বয়সী কতজন এ অ্যাপ ব্যবহার করছেন তা বলেননি। 

বৈশ্বিক তাপমাত্রা বাড়বে ৩.১ ডিগ্রি, জাতিসংঘের সতর্কতা

তিনি একটি বিবৃতিতে বলেছেন, ‘এটি একটি দুঃখজনক পরিস্থিতি এবং আমি তার পরিবারের প্রতি সমবেদনা জানাই। আমরা আমাদের ব্যবহারকারীদের নিরাপত্তাকে খুব গুরুত্ব সহকারে নিই এবং আমরা ক্রমাগত এ বিষয়টি সমাধানে কাজ করে যাচ্ছি।’ জেরি রুওটি আরো জানান, ক্যারেক্টার এআই-এ ‘নিজের ক্ষতি এবং আত্মহত্যার প্রচার বা চিত্রায়ন’ নিষিদ্ধ। 

সেটজারের মা গার্সিয়া এই সপ্তাহে কম্পানিটির বিরুদ্ধে একটি মামলা দায়ের করেছেন। তিনি বিশ্বাস করেন, তার ছেলের মৃত্যুর জন্য দায়ী তারা।
ক্যারেক্টার এআই একমাত্র প্ল্যাটফর্ম নয়, যেখানে মানুষ কাল্পনিক চরিত্রের সঙ্গে সম্পর্ক গড়ে তুলতে পারে। কেউ কেউ ফিল্টারহীন যৌন চ্যাটের অনুমতি দেয় বা উৎসাহিত করে। ফলে  ব্যবহারকারীরা ‘এআই ড্রিস গার্ল- এর সঙ্গে কথা বলতে প্ররোচিত হয়। কোনো কোনো অ্যাপে কঠোর নিরাপত্তা বৈশিষ্ট্যও রয়েছে।

ক্যারেক্টার এআইতে ব্যবহারকারীরা তাদের প্রিয় সেলিব্রিটি বা বিনোদনমূলক চরিত্রের অনুকরণ করে চ্যাটবট তৈরি করতে পারেন। ইনস্টাগ্রাম এবং স্ন্যাপচ্যাটের মতো বেসপোক অ্যাপস ও সোশ্যাল মিডিয়া সাইটগুলোর মাধ্যমে এআই-এর ক্রমবর্ধমান প্রসার মার্কিন যুক্তরাষ্ট্রজুড়ে অভিভাবকদের  উদ্বেগের বিষয় হয়ে উঠছে। গত মাসে কমন সেন্স মিডিয়ার প্রকাশিত একটি প্রতিবেদনে দেখা গেছে, মার্কিন যুক্তরাষ্ট্রে প্রতি দশজন কিশোরের মধ্যে সাতজন জেনারেটিভ এআই সরঞ্জাম ব্যবহার করেছে, যা সম্পর্কে মাত্র ৩৭ শতাংশ অভিভাবক সচেতন।

সূত্র: দ্য টেলিগ্রাফ