تمام نوآوری های تکنولوژیکی منجر به طیفی از پیامدهای مثبت و منفی می شود. برای هوش مصنوعی، طیف نتایج ممکن – از منفی ترین تا مثبت ترین – فوق العاده گسترده است.
اینکه استفاده از فناوری هوش مصنوعی می‌تواند باعث آسیب شود واضح است، زیرا در حال حاضر اتفاق افتاده است.
سیستم‌های هوش مصنوعی زمانی که افراد به طور مخرب از آنها استفاده می‌کنند می‌توانند باعث آسیب شوند. به عنوان مثال، زمانی که از آنها در کمپین های اطلاعات نادرست با انگیزه سیاسی استفاده می شود یا برای ایجاد نظارت گسترده استفاده می شود.12
اما سیستم‌های هوش مصنوعی همچنین می‌توانند باعث آسیب ناخواسته شوند، زمانی که متفاوت از آنچه در نظر گرفته شده عمل کنند یا شکست بخورند. به عنوان مثال، در هلند، مقامات از یک سیستم هوش مصنوعی استفاده کردند که به دروغ ادعا می کرد که حدود 26000 والدین ادعاهای تقلبی برای مزایای مراقبت از کودک داشته اند. اتهامات نادرست منجر به سختی برای بسیاری از خانواده های فقیر شد و همچنین منجر به استعفای دولت هلند در سال 2021 شد.13
با قدرتمندتر شدن هوش مصنوعی، تأثیرات منفی احتمالی می تواند بسیار بزرگتر شود. بسیاری از این خطرات به درستی مورد توجه عموم قرار گرفته اند: هوش مصنوعی قوی تر می تواند به جابجایی انبوه نیروی کار یا تمرکز شدید قدرت و ثروت منجر شود. در دستان خودکامه، می‌توانست توتالیتاریسم را از طریق مناسب بودن برای نظارت و کنترل توده‌ای قدرت بخشد.
به اصطلاح مشکل هم ترازی هوش مصنوعی یکی دیگر از خطرات شدید است. این نگرانی است که هیچ کس می تواند یک سیستم هوش مصنوعی قدرتمند را کنترل کند، حتی اگر هوش مصنوعی اقداماتی را انجام دهد که به ما انسان ها یا به کل بشریت آسیب برساند. این خطر متأسفانه کمتر مورد توجه عموم قرار گرفته است، اما توسط بسیاری از محققان برجسته هوش مصنوعی به عنوان یک خطر بسیار بزرگ تلقی می شود.14
چگونه ممکن است یک هوش مصنوعی از کنترل انسان فرار کند و در نهایت به انسان آسیب برساند؟
خطر این نیست که یک هوش مصنوعی خودآگاه شود، نیت بدی ایجاد کند و این کار را «انتخاب کند». خطر این است که ما سعی می کنیم به هوش مصنوعی دستور دهیم که هدف خاصی را دنبال کند – حتی یک هدف بسیار ارزشمند – و در تعقیب آن هدف به انسان آسیب می رساند. این در مورد پیامدهای ناخواسته است. هوش مصنوعی آنچه را که ما به او گفته بودیم انجام می دهد، اما نه آنچه را که ما می خواستیم.
آیا نمی‌توانیم به هوش مصنوعی بگوییم که این کارها را انجام ندهد؟ قطعا ساختن یک هوش مصنوعی امکان پذیر است که از هر مشکل خاصی که پیش بینی می کنیم جلوگیری کند، اما پیش بینی آن سخت است. همه عواقب ناخواسته مضر احتمالی همانطور که استوارت راسل محقق هوش مصنوعی می گوید، مشکل هم ترازی به دلیل «عدم امکان تعریف اهداف واقعی انسان به طور صحیح و کامل» به وجود می آید.15
آیا نمی‌توانیم فقط هوش مصنوعی را خاموش کنیم؟ این نیز ممکن است امکان پذیر نباشد. دلیل آن این است که یک هوش مصنوعی قدرتمند دو چیز را می داند: با این خطر مواجه می شود که انسان ها می توانند آن را خاموش کنند و پس از خاموش شدن نمی تواند به اهداف خود دست یابد. در نتیجه، هوش مصنوعی یک هدف بسیار اساسی را دنبال خواهد کرد که اطمینان حاصل شود که خاموش نخواهد شد. به همین دلیل است که وقتی متوجه می‌شویم یک هوش مصنوعی بسیار هوشمند در تعقیب یک هدف خاص باعث آسیب ناخواسته می‌شود، ممکن است خاموش کردن آن یا تغییر عملکرد سیستم امکان‌پذیر نباشد.16
این خطر – که بشریت ممکن است نتواند پس از قدرتمند شدن هوش مصنوعی در کنترل خود باقی بماند و این ممکن است منجر به یک فاجعه شدید شود – درست از روزهای اولیه تحقیقات هوش مصنوعی بیش از 70 سال پیش شناخته شده است.17 توسعه بسیار سریع هوش مصنوعی در سال‌های اخیر، راه‌حل این مشکل را بسیار ضروری‌تر کرده است.
من سعی کردم برخی از خطرات هوش مصنوعی را خلاصه کنم، اما یک مقاله کوتاه فضای کافی برای پرداختن به همه سؤالات ممکن نیست. به خصوص در مورد بدترین خطرات سیستم‌های هوش مصنوعی، و آنچه که اکنون می‌توانیم برای کاهش آنها انجام دهیم، توصیه می‌کنم کتاب «مشکل همسویی» نوشته برایان کریستین و بنجامین هیلتون «جلوگیری از یک فاجعه مرتبط با هوش مصنوعی» را بخوانید.
اگر بتوانیم از این خطرات اجتناب کنیم، هوش مصنوعی متحول کننده نیز می تواند به پیامدهای بسیار مثبتی منجر شود. پیشرفت در علم و فناوری برای بسیاری از تحولات مثبت در تاریخ بشریت بسیار مهم بود. اگر نبوغ مصنوعی بتواند نبوغ ما را تقویت کند، می‌تواند به ما کمک کند تا در بسیاری از مشکلات بزرگی که با آن روبرو هستیم پیشرفت کنیم: از انرژی پاک‌تر، تا جایگزینی کار ناخوشایند، تا مراقبت‌های بهداشتی بسیار بهتر.
این تضاد بسیار بزرگ بین نکات مثبت و منفی احتمالی، روشن می‌کند که خطرات با این فناوری به‌طور غیرعادی زیاد است. کاهش خطرات منفی و حل مشکل همسویی می تواند به معنای تفاوت بین آینده ای سالم، شکوفا و ثروتمند برای بشریت – و نابودی آن باشد.