আজকের দিনে আমরা প্রায় প্রতিটি কাজের জন্য কৃত্রিম বুদ্ধিমত্তা বা এআই-এর ওপর অন্ধের মতো ভরসা করতে শুরু করেছি। আর্থিক লেনদেনের সঠিক পরামর্শ নেওয়া থেকে শুরু করে অফিসের অত্যন্ত সংবেদনশীল গোপন ডেটা বিশ্লেষণ করা, কিংবা কম্পিউটারের জটিল সেটিংস বদলে ফেলা—সবকিছুই এখন এআই-এর হাতের মুঠোয়। কিন্তু মাইক্রোসফটের চেয়ারম্যান ও প্রধান নির্বাহী সত্য নাদেলা সম্প্রতি যে চরম হুঁশিয়ারি দিয়েছেন, তাতে গোটা প্রযুক্তিমহল স্তম্ভিত হয়ে গেছে।

সম্প্রতি জনপ্রিয় সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স (X)-এ ‘মডেলস অ্যাজ ইনসাইডার রিস্ক ইন দ্য সুপার ইন্টেলিজেন্স এরা’ (Models as Insider Risks in the Super Intelligence Era) শিরোনামে একটি সুদীর্ঘ ও চাঞ্চল্যকর পোস্ট শেয়ার করেছেন সত্য নাদেলা। ওই পোস্টে তিনি স্পষ্ট ভাষায় উল্লেখ করেছেন যে, বর্তমান যুগের ফ্রন্টিয়ার এআই মডেলগুলিকে কোনো সাধারণ সফটওয়্যার হিসেবে দেখলে মারাত্মক ভুল হবে। কোম্পানিগুলির উচিত এই শক্তিশালী এআই মডেলগুলিকে একজন অতি বিশ্বস্ত অথচ বিপজ্জনক ‘ইনসাইডার রিস্ক’ বা অভ্যন্তরীণ ঝুঁকির সমতুল্য হিসেবে গণ্য করা।

নাদেলার মতে, প্রথাগত সাধারণ সফটওয়্যারে কোনো ত্রুটি দেখা দিলে কোডের সুনির্দিষ্ট কোন লাইনে সমস্যা রয়েছে তা সহজেই খুঁজে বের করা যেত। কিন্তু আজকের উন্নত এআই মডেলগুলির ক্ষেত্রে সেই সুযোগ আর নেই। একটি নির্দিষ্ট প্রশ্নের উত্তরে এআই ঠিক কোন ট্রেনিং ডেটা বা সূত্র ব্যবহার করে আউটপুট তৈরি করেছে, তা সঠিকভাবে ব্যাখ্যা করা মানুষের পক্ষে অসম্ভব। অথচ ঠিক এই কারণেই আমরা আমাদের সংস্থার সবচেয়ে গোপনীয় ও স্পর্শকাতর তথ্যগুলি নির্দ্বিধায় এআই-এর হাতে তুলে দিচ্ছি। ফলে ভুল তথ্য পরিবেশন, ডেটা হ্যাক হয়ে যাওয়া কিংবা ভুল সিদ্ধান্ত নেওয়ার ঝুঁকি দিন দিন পাহাড়প্রমাণ আকার ধারণ করছে।

এই প্রসঙ্গে এক অবিসংবাদিত সত্য তুলে ধরে নাদেলা বলেন, “আমরা কখনোই বুদ্ধিমত্তার কাজের দায়ভার অন্যের ঘাড়ে চাপিয়ে দায়িত্ব এড়াতে পারি না।” অর্থাৎ এআই নিজের বুদ্ধিমত্তায় যা যা করবে, তার শেষ দায়ভার সম্পূর্ণভাবে সেই সংশ্লিষ্ট কোম্পানিকেই নিতে হবে; কোনোমতেই মডেল নির্মাতা সেই দায়িত্ব নেবে না।

তাহলে এই চরম সংকট থেকে উত্তরণের পথ কী? এই প্রশ্নের উত্তর খুঁজতে গিয়ে সত্য নাদেলা অত্যন্ত গুরুত্বপূর্ণ কিছু প্রস্তাব পেশ করেছেন। তাঁর মতে, এআই-এর বুদ্ধিমত্তা এবং সেই বুদ্ধিমত্তা প্রয়োগের প্রশাসনিক ক্ষমতাকে কঠোরভাবে আলাদা করতে হবে। অর্থাৎ এআই কেবল তার নিজস্ব পরামর্শ বা ডেটা সরবরাহ করবে, কিন্তু সেই পরামর্শ বাস্তবে রূপায়ন করা হবে কি না, তা সম্পূর্ণভাবে নিয়ন্ত্রণ করবে মানুষ এবং অন্য একটি পৃথক সেফটি সিস্টেম। এই উদ্দেশ্য সাধনের জন্য তিনি ৭টি সুনির্দিষ্ট ব্যবস্থার কথা বলেছেন:
১. একটি মাত্র একক এআই মডেলের ওপর সম্পূর্ণ বা অন্ধ ভরসা না করা।
২. এআই-এর প্রতিটি কাজের এমন একটি স্থায়ী ডিজিটাল রেকর্ড বা লগ রাখা যা কোনোভাবেই মোছা বা টেম্পার করা সম্ভব নয়।
৩. বাহ্যিক ও স্বাধীন সংস্থাকে দিয়ে নিয়মিত এআই সিস্টেমের অডিট করানো।
৪. জরুরি পরিস্থিতিতে এআই-এর যাবতীয় কার্যক্রম অবিলম্বে বন্ধ করার জন্য একটি ‘ইমার্জেন্সি ব্রেক’ বা কিল সুইচ বাধ্যতামূলকভাবে রাখা।
৫. সিস্টেমে কোনো বড় ধরনের ত্রুটি বা অঘটন ঘটলে তা দ্রুত সংশ্লিষ্ট সবাইকে অবহিত করা।

নাদেলার দ্ব্যর্থহীন ঘোষণা, সবচেয়ে নির্ভরযোগ্য সুপার ইন্টেলিজেন্স সিস্টেম সেটাই হবে, যা আমাদের নিজেদের মডেলটির ওপর সবচেয়ে কম নির্ভর করতে শেখাবে। প্রযুক্তির এই লাগামছাড়া দৌড়ে সত্য নাদেলার এই দূরদর্শী সতর্কবার্তা আগামী দিনে কর্পোরেট জগতের নিরাপত্তা নীতি আমূল বদলে দিতে পারে বলে মনে করছেন বিশেষজ্ঞরা।