যে কারণে এআইকে অন্ধভাবে বিশ্বাস করতে নিষেধ করলেন মাক্রোসফটের সিইও

মাক্রোসফটের প্রধান নির্বাহী সত্য নাদেলা কৃত্রিম বুদ্ধিমত্তাকে বা এআই অন্ধভাবে বিশ্বাস না করার আহ্বান জানিয়েছেন প্রতিষ্ঠানগুলোর প্রতি। তিনি সতর্ক করেছেন, সংবেদনশীল ব্যবস্থায় প্রবেশাধিকার পেলে উন্নত এআই মডেল গুরুতর ভুল করতে পারে কিংবা ক্ষতিগ্রস্ত হতে পারে। শনিবার এক্সে দীর্ঘ এক পোস্টে নাদেলা যুক্তি দেন, মডেলগুলো কেন একটি নির্দিষ্টভাবে আচরণ করে, তা ব্যবসা প্রতিষ্ঠানগুলো সব সময় ব্যাখ্যা করতে পারে না। তাই স্বাধীন সুরক্ষাব্যবস্থা অপরিহার্য। নাদেলা লেখেন, অনির্ধারিত মডেলগুলোকে ঘিরে শক্তিশালী ও নির্ধারিত সিস্টেম ডিজাইন, মানুষের নিয়ন্ত্রণ এবং নির্ভরযোগ্য কার্যপ্রণালি রাখতে হবে। যেখানে বিদ্যমান মান অপর্যাপ্ত, সেখানে শিল্পখাতের মান প্রতিষ্ঠা করতে হবে। তিনি আরও লেখেন, অত্যাধুনিক ক্লোজড ও ওপেন-ওয়েট মডেলকে ভেতরের ঝুঁকির মতো গণ্য করা এমন ব্যবস্থা গড়ার একটি উপায়। নাদেলা জোর দিয়ে বলেন, এআই ব্যবস্থা যে ক্ষতিকর, তা নয়। তবে গুরুত্বপূর্ণ ব্যবস্থায় প্রবেশাধিকার দিলে এদের ক্রমবর্ধমান সক্ষমতা ঝুঁকি তৈরি করতে পারে। তিনি বলেন, এর অর্থ হলো মডেলকে আলাদা রাখা, যে কাঠামো এর কাজ সমন্বয় করে তার থেকে এবং যে কর্মক্ষেত্র নির্ধারণ করে এটি কী করতে পারবে, তা থেকেও। এর অর্থ নিয়ন্ত্রণ ও সুরক্ষাব্যবস্থাকে বাইরে রাখাও। নিরাপদ এআই প্রয়োগের জন্য সাতটি নীতির প্রস্তাব দিয়েছেন নাদেলা। এর মধ্যে রয়েছে মডেলের আচরণ পর্যবেক্ষণ, স্বাধীন নিরীক্ষা, নিরন্তর পরীক্ষা এবং মানুষের হস্তক্ষেপ। তিনি লেখেন, একে ইমার্জেন্সি ব্রেকের মতো ভাবুন। কোনও অনুমোদিত ব্যক্তি যেন কাজ চলাকালেই মডেল থামাতে বা বন্ধ করে দিতে পারেন। নাদেলা প্রতিষ্ঠানগুলোকে এআই-সংক্রান্ত ব্যর্থতা ও নিরাপত্তা লঙ্ঘনের কথা ক্ষতিগ্রস্তদের দ্রুত জানানোর আহ্বানও জানান। এতে ক্ষতিগ্রস্ত পক্ষ বুঝতে পারবে কী ভুল হয়েছিল এবং একই ধরনের ঘটনা কীভাবে ঠেকানো যায়।  বক্সের প্রধান নির্বাহী অ্যারন লেভি নাদেলার অবস্থানকে সমর্থন করে বলেন, এআইয়ের জন্য জিরো ট্রাস্টের যুগ দরকার হবে। লেভি বলেন, এ সবকিছুর পরিণতিতে বিভিন্ন স্তরের সুরক্ষা এবং এজেন্টরা কী করছে, কোন তথ্য নিয়ে কাজ করতে পারবে এবং কিছু ভুল হলে কী নিয়ন্ত্রণ থাকবে, তার নিরীক্ষাযোগ্যতা প্রয়োজন। এখন পুরো এন্টারপ্রাইজজুড়ে এমন ব্যবস্থা যারা গড়ছেন, তাদের জন্য বিশাল সুযোগ রয়েছে। এআই নিরাপত্তা নিয়ে বাড়ছে উদ্বেগ ক্রমেই স্বয়ংক্রিয় হয়ে ওঠা এআই ব্যবস্থার নিরাপত্তা ঝুঁকি নিয়ে উদ্বেগের মধ্যে নাদেলার এ মন্তব্য এলো। বিজনেস ইনসাইডারের প্রতিবেদন অনুযায়ী, ওপেনএআই ও অ্যানথ্রপিকের তৈরি এআই মডেলকে ঘিরে সাম্প্রতিক কিছু ঘটনা প্রশ্ন তুলেছে, প্রতিষ্ঠানগুলো এদের আচরণ যথেষ্ট নিয়ন্ত্রণ করতে পারছে কিনা। এর মধ্যে মার্কিন সিনেটর জশ হলি ও ক্রিস মার্ফি ১ অক্টোবর দ্বিদলীয় একটি আইনের ঘোষণা দিয়েছেন। এর লক্ষ্য হ্যাকিংয়ের ঘটনায় এআই ডেভেলপার ও পরিচালনাকারীদের জবাবদিহির আওতায় আনা। সূত্র: হিন্দুস্তান টাইমস