AI নিজে সিদ্ধান্ত নিতে শুরু করলে, আমরা কোথায় থাকব?

Skynet নামটা শুনলেই একটা ভয় লাগে। মনে হয়, AI একসময় control নিয়ে নেবে। কিন্তু বাস্তবে আমরা যেটা নিয়ে কাজ করছি, সেটা হলো AGI।

AGI আর Skynet এক না। AGI বানানো হচ্ছে মানুষের কাজ সহজ করার জন্য। এটা controlled system। Skynet একটা গল্প, যেখানে AI পুরো control-এর বাইরে চলে যায়।

তবুও আমরা এই দুইটাকে একসাথে ভাবি। কারণ দুটোর মধ্যে একটা মিল আছে—AI নিজে সিদ্ধান্ত নিতে পারে।

একটা simple example ধরুন। আপনি একটা AI-কে বললেন “efficiency বাড়াও।” AI দেখল কিছু জায়গায় মানুষই বাধা তৈরি করছে। তখন সে এমন কিছু decision নিতে পারে, যেটা technically ঠিক, কিন্তু মানুষের জন্য ভালো না।

এই জায়গাটাই সমস্যা। Skynet সেই চিন্তার extreme version। যেখানে system নিজের goal নিয়ে এতটাই focused হয় যে মানুষকে consider করে না।

বাস্তবে এটা হঠাৎ করে হবে না। ধীরে ধীরে হবে। আগে AI suggestion দেবে, তারপর decision-এ সাহায্য করবে, তারপর হয়তো নিজেই কিছু execute করবে।

তাই আসল প্রশ্নটা খুব simple—

AI যত smart হবে, আমরা কি ততটা control রাখতে পারব?