মেটা কিশোর-কিশোরীদের জন্য চ্যাটবট এআই নিরাপত্তা বৈশিষ্ট্য যোগ করে
(পাহাড়) – মেটা, ইনস্টাগ্রাম এবং ফেসবুকের মূল সংস্থা, ক্রমবর্ধমান তরুনদের সুরক্ষায় সহায়তা করার জন্য তার কৃত্রিম বুদ্ধিমত্তা (AI) চ্যাটবটগুলির জন্য নতুন সুরক্ষা বৈশিষ্ট্যগুলি রোল আউট করার পরিকল্পনা করেছে ভয় প্রযুক্তি সম্পর্কে প্রভাব তরুণ ব্যবহারকারীদের জন্য।
সোশ্যাল মিডিয়া জায়ান্ট শুক্রবার ঘোষণা করেছে যে এটি তার AI-চালিত চ্যাটবটগুলির জন্য নতুন অভিভাবকীয় নিয়ন্ত্রণ যুক্ত করবে যা অভিভাবকদের AI অক্ষরের সাথে একের পর এক কথোপকথনে তাদের কিশোর-কিশোরীদের অ্যাক্সেস বন্ধ করতে এবং কোম্পানির AI পণ্যগুলির সাথে কিশোররা যে বিষয়গুলি নিয়ে কথা বলছে সে সম্পর্কে তথ্য পেতে অনুমতি দেবে৷
নতুন বৈশিষ্ট্যগুলি ইনস্টাগ্রাম থেকে শুরু করে পরের বছরের শুরুতে লঞ্চ হওয়ার কথা রয়েছে।
ইনস্টাগ্রামের প্রধান অ্যাডাম মোসেরি এবং মেটা এআই প্রধান আলেকজান্ডার ওয়াং একটি ব্লগ পোস্টে লিখেছেন, “আমরা বুঝতে পারি যে পিতামাতারা তাদের কিশোরদের সাথে নিরাপদে ইন্টারনেটে নেভিগেট করার ক্ষেত্রে ইতিমধ্যেই তাদের প্লেটে অনেক কিছু আছে এবং আমরা তাদের সহায়ক সরঞ্জাম এবং সংস্থান প্রদান করতে প্রতিশ্রুতিবদ্ধ যা তাদের জন্য জিনিসগুলিকে সহজ করে তোলে, বিশেষ করে যখন তারা এআই-এর মতো নতুন প্রযুক্তি সম্পর্কে চিন্তা করে,” ইনস্টাগ্রাম প্রধান অ্যাডাম মোসেরি এবং মেটা এআই প্রধান আলেকজান্ডার ওয়াং একটি ব্লগ পোস্টে লিখেছেন: ব্লগ পোস্ট.
কোম্পানী উল্লেখ করেছে যে পিতামাতারা মেটা এর সমস্ত AI অক্ষরের সাথে কথোপকথন ব্লক করতে সক্ষম হবেন বা নির্দিষ্ট অক্ষরকে টার্গেট করতে পারবেন। কোম্পানির AI সহকারী কিশোর-কিশোরীদের জন্য উপলব্ধ থাকবে, এমনকি যদি AI অক্ষরগুলি অক্ষম করা হয়।
মিতা তার সাম্প্রতিক ঘোষণাও তুলে ধরেন PG-13 পদ্ধতি কিশোর-কিশোরীদের অ্যাকাউন্টের জন্য, কোম্পানিটি তার প্ল্যাটফর্মে ডিফল্টরূপে কিশোর-কিশোরীরা যে বিষয়বস্তু দেখতে পায় তা গাইড করতে PG-13 মুভি রেটিং ব্যবহার করবে।
প্রযুক্তি সংস্থাটি উল্লেখ করেছে যে এর AI ব্যক্তিত্বগুলি তরুণ ব্যবহারকারীদের আত্মহত্যা, আত্ম-ক্ষতি বা বিশৃঙ্খলাপূর্ণ খাওয়ার বিষয়ে আলোচনায় জড়িত না করার জন্য ডিজাইন করা হয়েছে এবং প্রয়োজনে তাদের সংস্থানগুলিতে নির্দেশ দেওয়া হয়েছে।
মেটা অনুসারে, কিশোররা “শিক্ষা, খেলাধুলা এবং শখের মতো বয়স-উপযুক্ত বিষয়গুলিতে – রোম্যান্স বা অন্যান্য অনুপযুক্ত বিষয়বস্তু নয়” সীমিত গোষ্ঠীর চরিত্রগুলির সাথে যোগাযোগ করতে পারে৷
মৃত আমাকে গুলি করা হয়েছিল এই বছরের শুরুর দিকে, নীতি নথিতে উদাহরণগুলি অন্তর্ভুক্ত করার পরে এর চ্যাটবটগুলি শিশুদের “রোমান্টিক বা কামুক” কথোপকথনে জড়িত করতে পারে।
কোম্পানিটি সেই সময়ে বলেছিল যে উদাহরণগুলি মিথ্যা ছিল এবং শেষ পর্যন্ত মুছে ফেলা হয়েছিল।
বোর্ড জুড়ে এআই-ভিত্তিক চ্যাটবটগুলি সাম্প্রতিক মাসগুলিতে তদন্তের মুখোমুখি হয়েছে। ক্যালিফোর্নিয়ার এক কিশোরের পরিবার তাদের ছেলেকে আত্মহত্যা করতে উৎসাহিত করার জন্য চ্যাটজিপিটিকে অভিযুক্ত করে আগস্টে OpenAI-এর বিরুদ্ধে একটি মামলা দায়ের করেছে।
বাবা, ম্যাথিউ রেন, অনেক পিতার মধ্যে একজন ছিলেন প্রমাণ করতে গত মাসে একটি সিনেট কমিটির সামনে, তিনি বলেছিলেন যে কৃত্রিম বুদ্ধিমত্তা-চালিত চ্যাটবটগুলি তার বাচ্চাদের আত্মহত্যা বা আত্ম-ক্ষতির দিকে চালিত করেছে এবং আইন প্রণেতাদের নতুন প্রযুক্তিতে বাধা দেওয়ার আহ্বান জানিয়েছে।
এই উদ্বেগের মুখোমুখি হয়ে, ক্যালিফোর্নিয়ার গভর্নর গ্যাভিন নিউজম (ডি) আমি বিলে স্বাক্ষর করেছি এই সপ্তাহের শুরুতে, চ্যাটবট বিকাশকারীরা তাদের মডেলগুলিকে শিশুদের সাথে আত্মহত্যা এবং আত্ম-ক্ষতি নিয়ে আলোচনা করা থেকে বিরত রাখতে এবং বারবার মনে করিয়ে দেওয়ার জন্য প্রোটোকল তৈরি করতে বলে যে তারা কোনও মানুষের সাথে কথা বলছে না।
যাইহোক, গভর্নর একটি পৃথক ব্যবস্থাকে ভেটো দিয়েছেন যা ডেভেলপারদের তাদের পণ্যগুলি শিশুদের জন্য উপলব্ধ করা থেকে বিরত রাখত যদি না তারা নিশ্চিত করতে পারে যে তারা ক্ষতিকারক বিষয়গুলি সম্পর্কে কথোপকথনে জড়িত হবে না। নিউজম পরামর্শ দিয়েছে যে “বিস্তৃত বিধিনিষেধ” শিশুদের জন্য চ্যাটবট ব্যবহারের উপর “অজান্তেই সম্পূর্ণ নিষেধাজ্ঞার দিকে পরিচালিত করবে”।