|
কৃত্রিম বুদ্ধিমত্তা (AI) প্রযুক্তির নিরাপত্তা মূল্যায়ন এবং এর কার্যকারিতা পরিমাপের প্রচলিত পদ্ধতিগুলোর বিশ্বাসযোগ্যতা নিয়ে তীব্র ক্ষোভ ও উদ্বেগ প্রকাশ করেছেন প্রযুক্তিবিদ ও সাইবার নিরাপত্তা গবেষকেরা। অতি সম্প্রতি মডেল ইভালুয়েশন অ্যান্ড থ্রেট রিসার্চ (METR) ওপেনএআই-এর নতুন মডেল ‘GPT-5.6 Sol’ নিয়ে একটি মূল্যায়ন প্রতিবেদন প্রকাশ করেছে। তবে এই প্রতিবেদনটিকে স্বাধীন বৈজ্ঞানিক পদ্ধতি না মেনে বড় বড় প্রযুক্তি প্রতিষ্ঠানের (বিগ টেক কার্টেল) স্বার্থ রক্ষার একটি নতুন হাতিয়ার হিসেবে দেখছেন সমালোচকরা।
সাইবার নিরাপত্তা বিশ্লেষক ও ইতিহাসবিদ ডেভি অটেনহাইমার তাঁর সাম্প্রতিক একটি নিবন্ধে METR-এর এই প্রতিবেদনকে তীব্র সমালোচনা করে একে ‘মার্কেটিং ব্রোশিওর’ বা বিপণন পুস্তিকা হিসেবে আখ্যা দিয়েছেন। তাঁর মতে, প্রতিবেদনে বলা হয়েছে যে কৃত্রিম বুদ্ধিমত্তার আসল যাচাইকরণের জন্য ‘অভ্যন্তরীণ সিস্টেমে গভীর প্রবেশাধিকার’ (Deep Access) প্রয়োজন। কিন্তু এই দাবিটি মূলত প্রযুক্তি প্রতিষ্ঠানগুলোর একটি সুচতুর চাল। পুরানো এবং সুপরিচিত ত্রুটিগুলোকে নতুন ও জরুরি সমস্যা হিসেবে উপস্থাপন করে তারা নিজেদের সিস্টেমের ওপর একচেটিয়া নিয়ন্ত্রণ বজায় রাখতে চায়।
তিনি উল্লেখ করেন, এআই মডেলগুলোর এই ‘স্পেসিফিকেশন গেমিং’ বা ‘রিওয়ার্ড হ্যাকিং’ (যেখানে মডেলটি তার মূল লক্ষ্য পূরণ না করে কেবল পরিমাপের পদ্ধতিকে ফাঁকি দিয়ে স্কোর বাড়ায়) কোনো নতুন আবিষ্কার নয়। ১৯৪৮ এবং ১৯৬০ সালে সাইবারনেটিক্সের জনক নরবার্ট উইনার এ ধরনের যান্ত্রিক ত্রুটির বিষয়ে স্পষ্ট সতর্কবার্তা দিয়েছিলেন। ১৯৭০-এর দশকে সামাজিক বিজ্ঞানীরাও দেখিয়েছেন যে, কোনো পরিমাপ যখন নিজেই একটি লক্ষ্যে পরিণত হয়, তখন তা আর সঠিক তথ্য প্রদান করে না।
বর্তমানে যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউট (UK AISI) সহ বিভিন্ন সরকারি নিরাপত্তা মূল্যায়ন সংস্থাগুলো মূলত প্রযুক্তি প্রতিষ্ঠানগুলোর তৈরি করা ‘হার্নেস’ বা ফ্রেমওয়ার্কের ওপর ভিত্তি করে মডেলের ক্ষমতা নির্ধারণ করছে। এর ফলে, স্বাধীনভাবে এআই-এর ঝুঁকি বা সক্ষমতা যাচাই করার বৈজ্ঞানিক পথ রুদ্ধ হয়ে পড়ছে। গবেষকদের মতে, যদি কোনো মূল্যায়ন স্বাধীন ও নিরপেক্ষ না হয়, তবে তা সাধারণ মানুষের নিরাপত্তা নিশ্চিত করার বদলে বহুজাতিক কোম্পানিগুলোর ব্যবসায়িক স্বার্থ ও দায়মুক্তির পথকেই প্রশস্ত করবে।
মন্তব্য করুন
