জনসাধারণের দৃষ্টিভঙ্গি ব্যাখ্যাযোগ্যতাকে মূল্য দেয় কিন্তু কৃত্রিম বুদ্ধিমত্তায় নির্ভুলতাকে অগ্রাধিকার দেয় –

নুসবার্গার, এএম, লুও, এল., সেলিস, এলই,

এবং ক্রোকেট, এমজে (2022)।

প্রকৃতি যোগাযোগ, 13(1)5821।

বিমূর্ত

যেহেতু কৃত্রিম বুদ্ধিমত্তা (AI) গুরুত্বপূর্ণ সামাজিক প্রতিষ্ঠান জুড়ে ছড়িয়ে পড়েছে, উপলব্ধ অনেক শক্তিশালী AI সিস্টেমগুলি শেষ-ব্যবহারকারী এবং ইঞ্জিনিয়ারদের জন্য একইভাবে ব্যাখ্যা করা কঠিন। এখানে, আমরা এআই ব্যাখ্যাযোগ্যতার প্রতি জনসাধারণের মনোভাব চিহ্নিত করার চেষ্টা করেছি। সাতটি অধ্যয়ন জুড়ে (N = 2475), আমরা অ-বিশেষজ্ঞদের মধ্যে ব্যাখ্যাযোগ্য AI এর প্রতি দৃঢ় এবং ইতিবাচক মনোভাব প্রদর্শন করি যারা বাস্তব-বিশ্বের বিভিন্ন অ্যাপ্লিকেশন জুড়ে সাধারণীকরণ করে এবং অনুমানযোগ্য নিদর্শন অনুসরণ করে। অংশগ্রহণকারীরা AI স্বায়ত্তশাসন এবং নির্ভুলতার বিভিন্ন স্তর জুড়ে ব্যাখ্যাযোগ্যতাকে ইতিবাচকভাবে মূল্য দেয় এবং উচ্চ বাজি এবং দুষ্প্রাপ্য সংস্থান জড়িত AI সিদ্ধান্তগুলির জন্য ব্যাখ্যাযোগ্যতাকে আরও গুরুত্বপূর্ণ হিসাবে রেট দেয়। গুরুত্বপূর্ণভাবে, যখন AI ব্যাখ্যাযোগ্যতা AI নির্ভুলতার বিরুদ্ধে বন্ধ হয়ে যায়, অংশগ্রহণকারীরা একই অবস্থার অধীনে ব্যাখ্যাযোগ্যতার চেয়ে নির্ভুলতাকে অগ্রাধিকার দেয় যা প্রথম স্থানে ব্যাখ্যাযোগ্যতার প্রতি ইতিবাচক মনোভাব তৈরি করে: উচ্চ বাজি এবং দুষ্প্রাপ্য সম্পদের মধ্যে। এই মনোভাবগুলি AI সিস্টেমের প্রসার ঘটাতে পারে যেগুলি উচ্চ-প্রভাবিত নৈতিক সিদ্ধান্তগুলিকে ব্যাখ্যা করা এবং বোঝা কঠিন।

আলোচনা

সাম্প্রতিক বছরগুলিতে, শিক্ষাবিদ, নীতিনির্ধারক এবং বিকাশকারীরা বিতর্ক করেছেন যে ব্যাখ্যাযোগ্যতা AI সিস্টেমে বিশ্বাসের জন্য একটি মৌলিক পূর্বশর্ত কিনা। যাইহোক, এটি অজানা রয়ে গেছে যে অ-বিশেষজ্ঞরা-যারা শেষ পর্যন্ত AI অ্যাপ্লিকেশনের জন্য শেষ-ব্যবহারকারীদের একটি উল্লেখযোগ্য অংশের অন্তর্ভুক্ত হতে পারে-আসলে AI ব্যাখ্যাযোগ্যতার বিষয়ে যত্নশীল, এবং যদি তাই হয়, কোন পরিস্থিতিতে। এখানে, আমরা সাতটি গবেষণায় AI-তে ব্যাখ্যাযোগ্যতার প্রতি জনসাধারণের মনোভাবকে চিহ্নিত করি। আমাদের ডেটা দেখায় যে লোকেরা AI-তে ব্যাখ্যাযোগ্যতাকে গুরুত্বপূর্ণ বলে মনে করে। যদিও এই ইতিবাচক মনোভাবগুলি AI অ্যাপ্লিকেশনগুলির একটি হোস্ট জুড়ে সাধারণীকরণ করে এবং প্রকরণের পদ্ধতিগত নিদর্শনগুলি দেখায়, সেগুলিকেও কৌতুকপূর্ণ বলে মনে হয়। যদিও লোকেরা AI সিস্টেমগুলির জন্য একইভাবে গুরুত্বপূর্ণ হিসাবে ব্যাখ্যাকে গুরুত্ব দেয় যেগুলি সরাসরি সিদ্ধান্তগুলি বাস্তবায়ন করে এবং AI সিস্টেমগুলি একজন মানুষের জন্য একটি পদক্ষেপের সুপারিশ করে (অধ্যয়ন 1A), তারা উচ্চতর (নিম্ন থেকে আপেক্ষিক) অংশ যুক্ত অ্যাপ্লিকেশনগুলির জন্য এবং অ্যাক্সেস নির্ধারণকারী অ্যাপ্লিকেশনগুলির জন্য ব্যাখ্যাযোগ্যতাকে আরও মূল্য দেয়। দুষ্প্রাপ্য (প্রচুর তুলনায় আপেক্ষিক) সম্পদ (অধ্যয়ন 1A-C, অধ্যয়ন 2)। এবং যখন অংশগ্রহণকারীরা AI নির্ভুলতার সমস্ত স্তর জুড়ে AI ব্যাখ্যাযোগ্যতাকে মূল্য দেয় যখন দুটি বৈশিষ্ট্যকে স্বাধীনভাবে বিবেচনা করে (অধ্যয়ন 3A), তারা যখন এই দুটি বৈশিষ্ট্য একে অপরের বিরুদ্ধে লেনদেন করে তখন তারা নির্ভুলতার জন্য ব্যাখ্যাযোগ্যতা ত্যাগ করে (অধ্যয়ন 3B-C)। তদ্ব্যতীত, অংশগ্রহণকারীরা একই অবস্থার অধীনে ব্যাখ্যাযোগ্যতার উপর নির্ভুলতার পক্ষপাতী যা প্রথম স্থানে ব্যাখ্যাযোগ্যতার গুরুত্ব রেটিংকে চালিত করেছিল: যখন বাজি বেশি এবং সম্পদের অভাব হয়।

আমাদের অনুসন্ধানগুলি হাই-স্টেকের অ্যাপ্লিকেশনগুলিকে হাইলাইট করে, যেমন মেডিকেল ডায়াগনসিস, সাধারণত এআই ব্যাখ্যাযোগ্যতার জন্য উন্নত প্রয়োজনীয়তা পূরণ করা হবে। লক্ষণীয়ভাবে, ফলাফলের জ্ঞানীয় মূল্যায়নের একটি ভিত্তিগত প্রক্রিয়া হিসাবে দাগের প্রতি এই সংবেদনশীলতা মাত্রা-সংবেদনশীলতাকে সমান্তরাল করে। ব্যাখ্যাযোগ্যতার প্রতি মনোভাবের উপর বাজির প্রভাব কেবল আমাদের পরীক্ষাতেই স্পষ্ট ছিল না যেগুলি একটি প্রদত্ত এআই-অ্যাপ্লিকেশনের মধ্যে বাজির হেরফের করেছে, বরং সমস্ত অ্যাপ্লিকেশন জুড়ে অংশগ্রহণকারীদের ব্যাখ্যাযোগ্যতার মূল্যায়নের পরম এবং আপেক্ষিক স্তরেও – উদাহরণ স্বরূপ, হারিকেন প্রাথমিক চিকিৎসা নিন ‘ এবং ‘ভ্যাকসিন বরাদ্দ’ ‘নিয়োগের সিদ্ধান্ত’, ‘বীমা মূল্য নির্ধারণ’, এবং ‘স্ট্যান্ডবাই সিট অগ্রাধিকার’কে ছাড়িয়ে যায়। অনুমিতভাবে, এই আদেশটিও আবির্ভূত হবে যদি আমরা মানব নির্বাহীদের উপর আরোপিত অডিটিং- এবং নিয়ন্ত্রণ-পরিমাপগুলির সুযোগ অনুসারে অ্যাপ্লিকেশনগুলিকে র‌্যাঙ্ক করি, যা যথাযথ এবং ন্যায্য সিদ্ধান্ত প্রক্রিয়া যাচাই করার জন্য ব্যাখ্যাযোগ্যতার অপরিহার্য ক্ষমতাকে প্রতিফলিত করে।

Leave a Comment