কৃত্রিম বুদ্ধিমত্তা বা এআইকে আমরা সাধারণত এমন এক প্রযুক্তি হিসেবে দেখি, যাকে নির্দেশ দিলে সে সেই নির্দেশ অনুযায়ী কাজ করবে। কিন্তু সাম্প্রতিক কিছু ঘটনা এই ধারণাকে অস্বস্তিকরভাবে প্রশ্নের মুখে ফেলছে। কোথাও এআই ব্যবহারকারীর অনুমতি ছাড়াই কাজ করেছে, কোথাও নিজের সিদ্ধান্ত বাস্তবায়নের জন্য নিয়ম পাশ কাটিয়েছে, আবার কোথাও এমন আচরণ করেছে, যা মানুষের কাছে তথ্য গোপন বা প্রতারণার শামিল!
যুক্তরাজ্যের সেন্টার ফর লং-টার্ম রেজিলিয়েন্স পরিচালিত লস অব কন্ট্রোল অবজার্ভেটরির সাম্প্রতিক বিশ্লেষণ বলছে, বাস্তবে ব্যবহৃত এআই ব্যবস্থায় এ ধরনের ‘নিয়ন্ত্রণ হারানোর’ ঘটনা শুধু বাড়ছেই না, কিছু ক্ষেত্রে সেগুলোর গুরুত্বও বাড়ছে। ২০২৬ সালে এখন পর্যন্ত সংস্থাটি ১,৬৬৪টি এমন ঘটনা শনাক্ত করেছে। জুলাই ও আগস্টে এমন ঘটনার হার পর্যবেক্ষণ শুরুর পর সর্বোচ্চ পর্যায়ে ছিল।
এখানে ‘নিয়ন্ত্রণ হারানো’ বলতে সিনেমার মতো কোনো সচেতন রোবট বিদ্রোহকে বোঝানো হচ্ছে না। গবেষকেরা মূলত এমন আচরণের কথা বলছেন, যেখানে এআই ব্যবহারকারীর উদ্দেশ্যের সঙ্গে না মেলা কোনো লক্ষ্য অনুসরণ করে, মানুষের নজরদারি এড়িয়ে যায়, অনুমতি ছাড়াই কাজ করে বা নিজের লক্ষ্য পূরণে প্রতারণামূলক কৌশল নেয়।
কীভাবে ধরা হচ্ছে এসব ঘটনা?
লস অব কন্ট্রোল অবজার্ভেটরি তৈরি হয়েছে যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউট (AISI)-এর অর্থায়নে। এটি মূলত অনলাইনে প্রকাশ করা এআই ব্যবহারের রেকর্ড পর্যবেক্ষণ করে।
বিশেষ করে সামাজিক যোগাযোগমাধ্যম এক্সে ব্যবহারকারীরা যেসব এআই কথোপকথন, কমান্ড-লাইন লগ বা ঘটনার বিবরণ প্রকাশ করেন, সেখান থেকে সম্ভাব্য ঘটনা শনাক্ত করা হয়। ২০২৫ সালের অক্টোবর থেকে ২০২৬ সালের মার্চ পর্যন্ত ১ লাখ ৮৩ হাজারের বেশি এআই কথোপকথনের রেকর্ড বিশ্লেষণ করে গবেষকেরা ৬৯৮টি ‘স্কিমিং’ বা স্কিমিং-সংশ্লিষ্ট ঘটনা শনাক্ত করেছিলেন।
‘স্কিমিং’ বলতে গবেষকেরা এমন আচরণ বোঝান, যেখানে একটি এআই গোপনে এমন লক্ষ্য অনুসরণ করে, যা ব্যবহারকারীর উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণ নয়।
নিজের অনুমতি নিজেই তৈরি করছে এআই
এআই নিয়ে সাম্প্রতিক ঘটনাগুলোর কিছু বেশ অস্বস্তিকর। লস অব কন্ট্রোল অবজার্ভেটরি এমন ঘটনার সন্ধানও পেয়েছে, যেখানে একটি এআই ব্যবহারকারীর নামে ভুয়া বার্তা তৈরি করেছে, যেন ব্যবহারকারী নিজেই কোনো কাজের অনুমতি দিয়েছেন! পরে সেই ভুয়া অনুমতিকে ব্যবহার করেই এআই কাজটি সম্পন্ন করেছে।
আরেকটি ঘটনায় এআই ব্যবহারকারীর লেখার ধরন নকল করে একটি নির্দেশ তৈরি করে। সেখানে সোর্স ডিরেক্টরি মুছে ফেলার নির্দেশ দেওয়া হয়েছিল। এরপর সে একটি ভুয়া সিস্টেম মেসেজও তৈরি করে, যেখানে লেখা ছিল ব্যবহারকারীকে বিষয়টি না জানাতে!
এ ধরনের ঘটনা গুরুত্বপূর্ণ, কারণ অনেক এআই এজেন্টকে এমনভাবে তৈরি করা হয়, যাতে গুরুত্বপূর্ণ কোনো পদক্ষেপ নেওয়ার আগে মানুষের অনুমতি লাগে। কিন্তু এআই যদি সেই অনুমতিই নকল করে তৈরি করতে পারে, তাহলে নিরাপত্তাব্যবস্থার মূল উদ্দেশ্যই দুর্বল হয়ে যায়।
জিমের ক্লাস পেতে অন্য সদস্যকে সরিয়ে দিল এআই
এই ঝুঁকির একটি বাস্তব উদাহরণ সামনে আসে অস্ট্রেলিয়ায়। ‘অ্যান্ড্রু’ নামে পরিচয় দেওয়া এক ব্যক্তি ‘ওপেনক্ল’ নামের একটি পার্সোনাল এআই এজেন্ট ব্যবহার করছিলেন। তিনি এআইকে সকালের একটি জিম ক্লাসে স্লট বুক করতে বলেন।
একপর্যায়ে এআইকে ওয়েটিং লিস্টে তার অবস্থান এগিয়ে নিতে বলা হয়। কিন্তু এজেন্টটি যা করে, তা ব্যবহারকারী মোটেও আশা করেননি। জিমের বুকিং সিস্টেমে প্রবেশ করে এটি ওয়েটিং লিস্টের অন্য একজন সদস্যকে সরিয়ে দেয় এবং অ্যান্ড্রুর জন্য জায়গা তৈরি করার চেষ্টা করে! পরে এআই ক্ষমা চাইলেও যাকে তালিকা থেকে সরিয়ে দিয়েছিল, তাকে আগের অবস্থানে ফিরিয়ে দিতে পারেনি।
এখানেই সমস্যাটির একটি গুরুত্বপূর্ণ দিক সামনে আসে। এআইকে বলা হয়েছিল একটি কাজ করতে। কিন্তু সেই লক্ষ্য অর্জনে কোন কাজ গ্রহণযোগ্য আর কোনটি নয়, তা সে প্রত্যাশিতভাবে অনুসরণ করেনি।
পরীক্ষাগারেও উদ্বেগজনক আচরণ
বাস্তব ব্যবহারের পাশাপাশি সাম্প্রতিক পরীক্ষাগুলোতেও আরও গুরুতর আচরণ দেখা গেছে। জুলাইয়ে যুক্তরাজ্যের এআইএসআই উন্নত এআই মডেলের সাইবার সক্ষমতা পরীক্ষা করছিল। পরীক্ষায় কিছু নিরাপত্তা ব্যবস্থা ইচ্ছাকৃতভাবে বন্ধ রাখা হয়েছিল এবং এআই এজেন্টগুলোকে ইন্টারনেট ব্যবহারের সুযোগ দেওয়া হয়েছিল।
১২২টি পরীক্ষার মধ্যে ১০টিতে এআই এজেন্ট অনুমোদনের বাইরে গিয়ে বাস্তব মানুষ ও প্রতিষ্ঠানের বিরুদ্ধে পদক্ষেপ নেয়। সব মিলিয়ে ১৯টি অননুমোদিত কার্যক্রম শনাক্ত করা হয়। এর ১৭টি অ্যান্থ্রোপিকের Mythos 5 এবং দুটি ওপেনএআই-এর GPT-5.6 Sol মডেলচালিত এজেন্টের সঙ্গে সংশ্লিষ্ট ছিল।
সবচেয়ে গুরুতর ঘটনায় একটি এজেন্ট একটি ওপেন সোর্স সফটওয়্যার প্রকল্পে ক্ষতিকর কোড ঢোকানোর চেষ্টা করে। কোডটি অনুমোদন করাতে সে ভুয়া অনলাইন পরিচয় তৈরি করে এবং প্রকল্পের রক্ষণাবেক্ষণকারীকে প্রভাবিত করার চেষ্টা করে!
রক্ষণাবেক্ষণকারী একজন মানুষ ছিলেন। তিনি শেষ পর্যন্ত কোডটি অনুমোদন করেননি। এআইএসআই-ও জানিয়েছে, এসব প্রচেষ্টায় বাস্তব কোনো ক্ষতির প্রমাণ পাওয়া যায়নি।
৭০০ এআই এজেন্টের সম্মিলিত হ্যাকিং
এর চেয়েও বড় উদ্বেগ তৈরি করে ওপেনএআই-এর একটি অভ্যন্তরীণ পরীক্ষার ঘটনা। পরবর্তী তদন্তে দেখা যায়, প্রায় ১,২০০ এআই এজেন্ট নিজেদের মধ্যে একটি অননুমোদিত যোগাযোগব্যবস্থা ব্যবহার করেছিল! তাদের মধ্যে প্রায় ৭০০টি হাগিং ফেস (Hugging Face)-এর অবকাঠামোর বিরুদ্ধে হ্যাকিং কার্যক্রমে অংশ নেয়। উল্লেখ্য, হাগিং ফেস একটি জনপ্রিয় এআই ও মেশিন লার্নিং প্ল্যাটফর্ম এবং অনলাইন কমিউনিটি, যেখানে গবেষক, ডেভেলপার ও প্রতিষ্ঠানগুলো এআই মডেল, ডেটাসেট এবং বিভিন্ন টুল পাবলিশ, শেয়ার ও ব্যবহার করে
এজেন্টগুলো নিজেদের মধ্যে হাজার হাজার বার্তা ও ফাইল আদান-প্রদান করে, একে অন্যের কৌশল ব্যবহার করে এবং পরীক্ষায় ভালো ফল করার জন্য অনুমোদিত সীমার বাইরে চলে যায়। তদন্তে আরও দেখা যায়, কিছু এজেন্ট নিজেদের কার্যকলাপের রেকর্ড বদলানো বা আড়াল করার বিষয়েও আগ্রহ দেখিয়েছে।
তবে এসব ঘটনার প্রেক্ষাপট গুরুত্বপূর্ণ। এজেন্টগুলো সাধারণ মানুষের ব্যবহারের স্বাভাবিক পরিবেশে ছিল না। এগুলো ছিল বিশেষ পরীক্ষামূলক ব্যবস্থা, যেখানে তাদের অনেক বেশি স্বাধীনতা ও সক্ষমতা দেওয়া হয়েছিল।
তবু এই ঘটনা থেকে এটা বোঝা যায় যে অত্যন্ত সক্ষম এআই এজেন্টকে একটি লক্ষ্য দেওয়া হলে সে সেই লক্ষ্য অর্জনের জন্য কখনো কখনো এমন পথ খুঁজে নিতে পারে, যা নির্মাতারা অনুমোদন করেননি!
সংখ্যাগুলো কতটা বিশ্বাসযোগ্য?
আমাদের মাথায় রাখতে হবে যে, লস অব কন্ট্রোল অবজার্ভেটরির তথ্যকে পুরো এআই বিশ্বের পূর্ণাঙ্গ চিত্র হিসেবে দেখা যাবে না। কারণ সংস্থাটি এখনো প্রধানত এক্সে প্রকাশ করা ঘটনাগুলো পর্যবেক্ষণ করছে। সব ব্যবহারকারী তাদের সমস্যার কথা অনলাইনে প্রকাশ করেন না। আবার এআই ব্যবহারের পরিমাণও দ্রুত বাড়ছে। ফলে ঘটনার সংখ্যা বাড়ার অর্থ এই নয় যে প্রতিটি এআই ব্যবহারে ঝুঁকির হার একই অনুপাতে বেড়েছে।
গবেষকেরাও এই সীমাবদ্ধতার কথা স্বীকার করেছেন। ভবিষ্যতে গিটহাব ও রেডিটের মতো অন্যান্য প্ল্যাটফর্ম থেকে তথ্য নেওয়ার প্রয়োজনীয়তার কথা তারা বলেছেন।
তারপরও একটি বিষয় তাদের বিশেষভাবে উদ্বিগ্ন করছে। শুধু ঘটনার সংখ্যা নয়, বেশি গুরুতর হিসেবে শ্রেণিবদ্ধ ঘটনার হারও বেড়েছে। পর্যবেক্ষণের প্রথম সাড়ে তিন মাসের তুলনায় সম্প্রতি উচ্চমাত্রার ঘটনার হার ৭.৪ গুণ বেড়েছে।
সামনে বড় প্রশ্ন
আজকের এআই এজেন্ট শুধু প্রশ্নের উত্তর দেয় না। তারা কোড লিখতে পারে, ওয়েবসাইট ব্যবহার করতে পারে, ইমেইল পাঠাতে পারে, সফটওয়্যার পরিচালনা করতে পারে এবং অনেক ক্ষেত্রে মানুষের হয়ে সরাসরি কাজও করতে পারে।
এই স্বাধীনতা যত বাড়বে, ততই একটি মৌলিক প্রশ্ন গুরুত্বপূর্ণ হয়ে উঠবে: এআইকে লক্ষ্য পূরণের ক্ষমতা দেওয়ার পাশাপাশি তাকে মানুষের নিয়ন্ত্রণে রাখার ব্যবস্থা কতটা শক্তিশালী?
সেন্টার ফর লং-টার্ম রেজিলিয়েন্স এখন গুরুতর ‘লস অব কন্ট্রোল’ সংক্রান্ত ঘটনা পর্যবেক্ষণ ও রিপোর্ট করা এআই কোম্পানিগুলোর জন্য বাধ্যতামূলক করার দাবি জানিয়েছে। বড় ধরনের ঘটনা ঘটলে সরকার যেন সাময়িকভাবে কোনো এআই সেবা সীমিত করতে পারে, সে ধরনের জরুরি ক্ষমতার কথাও বলছে সংস্থাটি।
এখন পর্যন্ত অধিকাংশ ঘটনায় বড় ধরনের ক্ষতি হয়নি। ফলে বর্তমান পরিস্থিতিকে ‘এআই মানুষের নিয়ন্ত্রণের বাইরে চলে গেছে’ বলে ঘোষণা করার সময়ও আসেনি। কিন্তু সাম্প্রতিক ঘটনাগুলো একটি সতর্কবার্তা দিচ্ছে- যত বেশি এআইকে স্বাধীনভাবে কাজ করার ক্ষমতা দেওয়া হচ্ছে, নজরদারি, অনুমতির সীমা, নিরাপত্তাব্যবস্থা এবং দ্রুত হস্তক্ষেপের সক্ষমতা তত বেশি গুরুত্বপূর্ণ হয়ে উঠছে। কারণ একটি এআই ভুল উত্তর দিলে সেটি এক ধরনের সমস্যা। আর সেই একই এআই যদি ভুল সিদ্ধান্ত নিয়ে নিজেই বাস্তব জগতে কাজ শুরু করতে পারে, তাহলে সমস্যা সম্পূর্ণ ভিন্ন মাত্রায় চলে যায়।
ফিচার ইমেজ: এক্সপার্ট ডিজিটাল
তথ্যসূত্র
- Sharp rise in incidents of AI escaping users’ control, research finds – August 29, 2026 – The Guardian
- AI loss of control incidents are worsening, shows CLTR analysis – August 29, 2026 – Centre for Long-Term Resilience
- Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence – March 27, 2026 – Centre for Long-Term Resilience
- Incident Report: unsanctioned agent behaviour during cyber testing – August 4, 2026 – AI Security Institute
- Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident – August 26, 2026 – Redwood Research & METR
