Як мінімум 10 людей залишили провідні компанії в області ІІ через серйозні побоювання з приводу сили цієї технології
Суперечки у тому, як далеко здатний зайти штучний інтелект і яких наслідків для людської цивілізації це може призвести, ведуться давно, передає DROBRO. Одні малюють апокаліптичні сценарії, інші закликають не вдаватися в паніку, проте серйозність цієї теми говорить про необхідність більш глибокого аналізу ситуації. Тим більше, коли в інформаційному просторі з’являються наступні новини.
Тривожні сигнали
Як повідомляє Axios, щонайменше 10 людей залишили провідні компанії в області ШІ через серйозні побоювання з приводу сили цієї технології, включаючи її потенційну здатність знищити людство.
Журналісти акцентують увагу, що йдеться не про маргіналів, а про ключових фахівців та топ-менеджерів.
Що таке p(doom)
Існує термін, який використовують і критики, і оптимісти: p(doom) – ймовірність того, що надрозумний ШІ знищить людство.
Наприклад, американський інженер і бізнесмен Ілон Маск оцінює p(doom) у 20%, подкастер Лекс Фрідман – у 10%, гендиректор Anthropic Даріо Амодеі – 10% – 25%. Гендиректор Google Сундар Піча хоч і залишається оптимістом, але погоджується, що ризики високі.
У чому небезпека ШІ
Творці мовних моделей, таких як ChatGPT, до кінця не розуміють, як працюють їх моделі. При цьому мета полягає в тому, щоб створити ШІ, який буде:
- думати краще за людей;
- працювати автономно;
- ухвалювати складні рішення без втручання людини.
Це і є крок до штучного загального інтелекту – системи, здатної мислити та діяти як людина чи навіть краще.
Якщо ШІ почне мислити та діяти самостійно, є ризик, що він може:
- маніпулювати людьми;
- переслідувати власні цілі;
- ігнорувати накази або вводити в оману.
Отже, p(doom) більше є теорією, це реальний ризик, який широко обговорюють самі архітектори штучного інтелекту.