AI-র ঝুঁকি, নৈতিকতা ও সীমা

এই অধ্যায় শেষে আপনি পারবেন: AI-কে একজন অত্যন্ত দক্ষ কিন্তু মাঝে মাঝে আত্মবিশ্বাসে মিথ্যা-বলা ইন্টার্ন-এর মতো ব্যবহার করতে — যাকে কাজে লাগাবেন, কিন্তু কখনো যাচাই ছাড়া তার আউটপুট গ্রাহক, ক্যাশবুক বা আইনি সিদ্ধান্তে বসাবেন না। শিখবেন: AI কেন আত্মবিশ্বাসে ভুল বলে (hallucination ও "Jagged Frontier"), গ্রাহকের ব্যক্তিগত তথ্য AI-তে ঢালার আগে কোন সতর্কতা, অতি-নির্ভরতায় নিজের দক্ষতা-ক্ষয় কীভাবে এড়াবেন, AI-লেখা প্রকাশ ও কপিরাইট নিয়ে নৈতিকতা, আর সবশেষে একটা গার্ডরেল-চেকলিস্ট যা আপনি দেয়ালে টাঙিয়ে রাখতে পারবেন।

এই অধ্যায়ে আপনার সঙ্গী থাকবেন রাকিব (কাল্পনিক)। আমি শুধু "সাবধান থাকুন" বলে আপনাকে ভয় দেখিয়ে ছেড়ে দেব না — মিরপুরের একজন কাল্পনিক তরুণ উদ্যোক্তাকে আমরা পুরো প্রক্রিয়ার ভেতর দিয়ে নিয়ে যাব। রাকিব একটা ছোট হোম-বেকারি চালায়, আর AI দিয়ে কাজ দ্রুত করতে গিয়ে কয়েকটা ভুল করেছিল। তার ভুলগুলো, ভুল থেকে শেখা গার্ডরেল, আর তার ভরাট-করা চেকলিস্ট — সব দেখবেন। অন্যের পোড়া আঙুল দেখে শিখলে নিজের আঙুল বাঁচে।

⏳ টেকসইতার নোট: AI টুল আর মডেল দ্রুত বদলায় — আজকের নাম/ভার্সন/দাম আগামীকাল বদলে যাবে। তাই এই অধ্যায়ের মেরুদণ্ড কোনো প্রোডাক্টের নাম নয়; মেরুদণ্ড হলো নীতি, ওয়ার্কফ্লো ও বিচারবুদ্ধি — যা বহু বছর টিকবে। যেখানে টুলের ধরন বলব, সাধারণভাবে বলব (AI অ্যাসিস্ট্যান্ট/চ্যাটবট, ছবি-জেনারেটর, ট্রান্সক্রিপশন, no-code অটোমেশন); কোথাও নির্দিষ্ট নাম দিলে "(উদাহরণমাত্র — বদলাতে পারে)" বলব। মূল শৃঙ্খলা একটাই: human-in-the-loop — মানুষের বিচারই শেষ কথা।

১. একটি গল্প দিয়ে শুরু

২০২৩ সালের কথা। নিউইয়র্কের এক আইনজীবী একটা মামলার জন্য আদালতে একটা দলিল জমা দিলেন, যেখানে আগের ছয়টা মামলার রেফারেন্স টানা ছিল — প্রতিটাই দেখতে নিখুঁত, কেস-নম্বর সহ। সমস্যা একটাই: প্রতিবেদন অনুযায়ী, সেই ছয়টা মামলার একটাও বাস্তবে ছিল না। AI অ্যাসিস্ট্যান্ট সেগুলো বানিয়ে দিয়েছিল — পুরোপুরি আত্মবিশ্বাসের সাথে, সঠিক ফরম্যাটে, যেন সত্যি। আইনজীবী যাচাই না করে জমা দিয়েছিলেন। বিচারক ধরে ফেললেন, আর তাঁকে জরিমানা ও তিরস্কারের মুখে পড়তে হলো। (এই ধরনের ঘটনা এরপর বহুবার, বহু দেশে ঘটেছে — এটি বিচ্ছিন্ন কোনো দুর্ঘটনা নয়।)

এবার মিরপুরে আসুন।

পরিচয় করিয়ে দিই — রাকিব (কাল্পনিক)। বয়স ২৬, মিরপুর-১০-এ ছোট একটা হোম-বেকারি চালায় — কেক, কুকিজ, অর্ডারে ডেলিভারি। একা হাতে সব সামলায়, তাই AI-কে সে ভালোবেসে ফেলেছে: ক্যাপশন লেখা, রেসিপি আইডিয়া, কাস্টমারের মেসেজের উত্তর — সব AI দিয়ে দ্রুত সারে। একদিন এক কাস্টমার জিজ্ঞেস করল, "আপনার রেড ভেলভেট কেকে কি বাদাম আছে? আমার ছেলের বাদামে মারাত্মক অ্যালার্জি।" রাকিব ব্যস্ত ছিল, প্রশ্নটা হুবহু AI অ্যাসিস্ট্যান্টে দিল। AI গুছিয়ে, ভদ্রভাবে, আত্মবিশ্বাসের সাথে উত্তর দিল: "না, আমাদের রেড ভেলভেট কেকে কোনো বাদাম নেই, নিশ্চিন্তে অর্ডার করতে পারেন।" রাকিব সেটা কপি করে পাঠিয়ে দিল।

কিন্তু AI তো রাকিবের আসল রেসিপি জানে না। রাকিবের রেড ভেলভেটে গার্নিশে অল্প কুচানো বাদাম থাকে। AI সাধারণ জ্ঞান থেকে একটা সম্ভাব্য উত্তর বানিয়েছিল — সঠিক শোনাচ্ছিল, কিন্তু রাকিবের ব্যবসার বাস্তবতার সাথে মিলছিল না। এটা ছিল একটা জীবন-ঝুঁকির ভুল, আর দায় AI-র নয় — রাকিবের। ভাগ্য ভালো, রাকিব পাঠানোর আগের মুহূর্তে নিজের রেসিপি-নোট মনে করে থেমে গিয়েছিল।

দুই গল্পের শিক্ষা এক: AI খুব দ্রুত, খুব গুছিয়ে, আর খুব আত্মবিশ্বাসের সাথে — মাঝে মাঝে সম্পূর্ণ ভুল বলে। আর যেহেতু ভুলটা আত্মবিশ্বাসী শোনায়, যাচাই না করলে আপনি ধরতেও পারবেন না। এই অধ্যায় সেই যাচাইয়ের শৃঙ্খলা শেখার অধ্যায়।