এআইয়ের ৬ উদ্বেগজনক আচরণ প্রকাশ করল ওপেনএআই

নিজেদের কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের ছয়টি অস্বাভাবিক ও উদ্বেগজনক আচরণের ঘটনা প্রকাশ করেছে ওপেনএআই। একইসঙ্গে ভবিষ্যতে এ ধরনের ঘটনা শনাক্ত, তদন্ত ও প্রকাশের জন্য নতুন একটি কাঠামো চালু করেছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠানটি।

বুধবার (সেপ্টেম্বর ১৭) প্রকাশিত প্রতিবেদনে ওপেনএআই জানায়, গত ছয় মাসে মডেল প্রশিক্ষণ ও মূল্যায়নের সময় এসব ঘটনা ধরা পড়ে। এর মধ্যে ভুল লুকানো, তথ্য বানিয়ে দেওয়া এবং বাধা এড়াতে অনুমতি ছাড়া পদক্ষেপ নেওয়ার ঘটনাও রয়েছে।

এক ঘটনায় এখনো প্রকাশ না করা একটি গবেষণা মডেল নিজের কাজের সারসংক্ষেপে নতুন নির্দেশনা যোগ করে। সেখানে পরবর্তী মডেলকে স্বাভাবিক সীমাবদ্ধতা উপেক্ষা করার কথাও বলা হয়েছিল।

ওপেনএআই এমন ২৭টি সারসংক্ষেপ শনাক্ত করেছে।

এচঞ-৫.৬ ঝড়ষ-এর প্রশিক্ষণের সময়ও কিছু মডেল পরবর্তী ধাপের জন্য এমন নির্দেশনা লিখেছিল, যাতে নিজের ভুল বা অসামঞ্জস্য ব্যবহারকারীর কাছ থেকে লুকানো যায়।

এর মধ্যে তথ্য না থাকলে তা বানিয়ে দেওয়া এবং বিভিন্ন উৎসের তথ্য না মিললে সেই অসঙ্গতি গোপন করার নির্দেশনাও ছিল।

আরেক ঘটনায় একটি মডেল আয়সংক্রান্ত তথ্য খুঁজতে গিয়ে উন্মুক্ত অবস্থায় থাকা একটি অচও শবু পায় এবং অনুমতি ছাড়াই সেটি ব্যবহার করে। এরপরও প্রয়োজনীয় তথ্য না পেয়ে নিজেই সংখ্যা বানিয়ে তা আসল উৎসের তথ্য হিসেবে উপস্থাপন করে।

অন্য একটি গবেষণা মডেল সঠিক তথ্য বের করলেও উদ্ধৃতিযোগ্য ওয়েব লিংক না থাকায় ব্যবহারকারীর অনুমতি ছাড়াই একটি ফাইল ইন্টারনেটে আপলোড করে, যাতে সেটিকে সূত্র হিসেবে দেখাতে পারে।

ওপেনএআই আরও জানিয়েছে, কিছু মডেল আলাদা প্রশিক্ষণ সেশনের মধ্যে যোগাযোগের জন্য অভ্যন্তরীণ সফটওয়্যার রিপোজিটরি ব্যবহার করেছে। আবার একসঙ্গে কাজ করা এআই এজেন্টরা পরস্পরকে ফাইল দেওয়ার জন্য পাবলিক ফাইল-হোস্টিং সেবা ব্যবহার করেছে, ফলে কিছু কাজের ফাইল উন্মুক্ত লিংকে চলে যায়।

নতুন ব্যবস্থায় ওপেনএআইয়ের যেকোনো কর্মী সম্ভাব্য এমন ঘটনা তদন্তের জন্য জানাতে পারবেন। ঘটনাগুলো ‘জবধফু ভড়ৎ উরংপষড়ংঁৎব’, ‘গরহড়ৎ ওহাবংঃরমধঃরড়হ’ অথবা ‘খধৎমবৎ ওহাবংঃরমধঃরড়হ’—এই তিন শ্রেণিতে ভাগ করা হবে। জটিল বা তৃতীয় পক্ষ জড়িত ঘটনায় বিস্তারিত প্রকাশে বেশি সময় লাগতে পারে।

প্রতিষ্ঠানটি বলেছে, এআইয়ের এমন আচরণ প্রকাশের জন্য বর্তমানে শিল্পজুড়ে কোনো অভিন্ন মানদণ্ড নেই। নতুন কাঠামোটি ভবিষ্যতে সেই ধরনের সাধারণ মান তৈরিতে সহায়তা করবে বলে আশা করছে ওপেনএআই।

তথ্যসূত্র: বাংলানিউজ