داستان نابودی انسان به دست رباتهای خودآگاه هنوز متعلق به سینماست. وقتی بحث خطرات هوش مصنوعی برای انسان پیش میآید، ذهن خیلیها سراغ شورش ماشینها میرود؛ اما تهدیدهایی که همین حالا نزدیک شدهاند جنس دیگری دارند: زمینیتر، بیصداتر و ملموستر از فیلمهای علمیتخیلی.
اگر میخواهید بدانید باید نگران آینده باشید یا نه، اول باید مرز ترسهای ساختگی و چالشهای واقعی را جدا کنید.
تهدیدهای خیالی: شورش ماشینها و هوش خودآگاه
ترس رایج این است که یک روز مدلها به آگاهی برسند، تصمیم به حذف انسان بگیرند و کنترل سلاح یا زیرساخت را به دست بگیرند. در علم کامپیوتر فعلی، هوش مصنوعی خودآگاهی، اراده یا احساس نفرت ندارد؛ این سیستمها موتورهای عظیم پیشبینی الگو هستند.
خطر اصلی این نیست که مدلها «شرور» شوند. خطر این است که کارهای مهم را به آنها بسپاریم، در حالی که هنوز خطا میکنند یا هدفشان با خواسته ما دقیقاً یکی نیست.
تهدیدهای واقعی و نزدیک؛ چیزی که باید نگرانش بود
تخریب حقیقت و جعل همهچیز (دیپفیک)
وقتی ساخت تصویر، صدا و ویدیوی جعلی از هر کسی در چند ثانیه ممکن شود، جمله «دیدن یعنی باور کردن» اعتبارش را از دست میدهد. کلاهبرداری مالی با جعل صدای اعضای خانواده، دستکاری افکار عمومی با ویدیوی جعلی از سیاستمداران، و بیاعتبار شدن اسناد، آسیب فوری به اعتماد عمومی است.
بیکاری ساختاری، نه ناگهانی
هوش مصنوعی قرار نیست فردا صبح همه را بیکار کند؛ ترکیب تیمها را کوچکتر میکند. کاری که قبلاً به پنج برنامهنویس، طراح یا نویسنده نیاز داشت، حالا با یک نفر مسلط به ابزارهای جدید جلو میرود. این جابهجایی سریعتر از توان سیستم آموزشی برای بازآموزی نیروی کار رخ میدهد.
سپردن تصمیمات انسانی به الگوریتمها
استفاده از مدلها برای استخدام، بررسی صلاحیت وام یا تصمیمهای قضایی خطرناک است. این سیستمها روی دادههای گذشته آموزش دیدهاند و سوگیری و تبعیض تاریخی را بدون آنکه «بفهمند»، با پوشش تصمیم دقیق ریاضی تکرار میکنند.
بالاخره بترسیم یا نه؟
ترسیدن بیفایده است؛ خوشخیالی هم اشتباه است. هوش مصنوعی شبیه انرژی هستهای است: میتواند برق یک شهر را تأمین کند و هم قدرت تخریب دارد. خطری که ما را تهدید میکند خود ابزار نیست، بلکه سرعت پیشرفتش در برابر کندی قوانین، ناآگاهی کاربر و سوءاستفاده انسانهای پشت پرده است.
بهجای نگرانی از پایان دنیا، مهارتهایی را تقویت کنید که به درک انسانی، همدلی و تصمیم در شرایط پیچیده وابستهاند؛ چیزهایی که یک مدل آماری بهاین زودی جایگزینشان نمیشود.