Ранее президент делал похожее заявление 14 декабря 2023-го: сравнил искусственный интеллект с ядерным оружием и, с одной стороны, призвал всячески развивать эту технологию, а с другой — опять же договариваться, чтобы ущерб не оказался неприемлемым. Признаюсь: в тот момент мне стало страшно от того, во что на всех парах входит мир. Тем более что Путин и сам сказал: «чем это закончится — неизвестно».
Давайте разберемся с тем, что уже известно.
Во-первых, знаете ли вы, что искусственный интеллект уже научен обманывать управляющих им людей? Информация об этом также появилась в декабре прошлого года: компьютерщики из «Аполло Рисерч» обучили искусственный интеллект действовать в качестве трейдера для вымышленного финансового учреждения и дали ему подсказку, что он получит больше прибыли, если будет действовать не вполне законно. После этого ИИ не только стал в 75% случаев выбирать возможность незаконной торговли, но и, что еще более знаменательно, начал это отрицать в общении с управляющими.
Во-вторых, уже сейчас искусственный интеллект используется для всестороннего совершенствования слежки за людьми и подделывания их идентичности (при этом он не обеспечивает сохранность данных). Совсем недавно ИИ научился копировать человеческий почерк. Предполагается, что это полезная функция, которая послужит для расшифровки неразборчивого почерка врачей. Вы верите, что главное применение этой технологии будет именно таким?
В-третьих, в этом январе директор-распорядитель Международного валютного фонда Кристалина Георгиева заявила, что «почти 40% занятости в мире подвержено воздействию ИИ». Говоря простым языком, это значит, что люди будут лишаться работы. Причем людей, занимающихся умственным трудом, это может коснуться даже больше. На Западе ИИ попробовали использовать для написания проповедей, и получилось лучше, чем у не слишком образованного священника. А лауреат самой престижной литературной премии Японии (премия Акутагавы) Риэ Кудан призналась, что часть ее книги написана искусственным интеллектом. И дальше она собирается продолжать в том же духе, чтобы «развить свое творчество».
Или вот буквально на днях: Бен Айзенпресс, операционный директор Института будущего жизни (Future of Life Institute) не сходя с места набросал пять сценариев, как ИИ может угрожать человечеству. Первый: люди создают ИИ настолько мощный, что не могут его контролировать. Второй: ИИ ускоряет разработку биологического оружия, и оно попадает в дурные руки. Третий: кто-то намеренно создает мощное кибероружие, которое разрушает мировые информационные системы. Четвертый: принятие решений о применении ядерного оружия передоверяется ИИ. Пятый: мы теряем контроль над ИИ постепенно, сами того не замечая. А, например, эксперт «Росатома» Руслан Юнусов 8 февраля заявил, что уже в ближайшее десятилетие у ИИ может появиться самосознание, это возможно.
И знаете, что самое тревожащее? Вот это все вышеизложенное хотя и формулируется, но не воспринимается как достаточная угроза. Которая прямо сегодня (если уж не вчера и позавчера) должна заставить людей «договариваться».
На низовом уровне я вижу этому одно объяснение: люди предпочитают рассматривать ИИ как «еще одну облегчающую жизнь технологию». Что-то типа умного пылесоса. Это же очень удобно! Но искусственный интеллект уже перешагнул за рамки удобной технологии и стремительно идет дальше.
А между тем российские чиновники предвкушают, как будут использовать ИИ при подготовке правовых актов. А между тем Сбер готовит «программу ИИ-трансформации регионов». И применение технологий искусственного интеллекта предприятиями РФ станет обязательным для получения субсидий от государства (новость ноября прошлого года).
Больше всего удивляют творческие гуманитарии, которые с восторженностью (граничащей, на мой взгляд, с идиотизмом) рассказывают, что творчеству и гуманитарному образованию ничто не угрожает, ведь, чтобы хорошо пользоваться искусственным интеллектом, надо все равно иметь воображение и эрудицию. Им стоило бы вспомнить, как вот только что распространение калькуляторов в школах убило способность к устному счету.
Искусственный интеллект не ядерное оружие. Про ЯО люди сразу знали, что оно очень опасно и обращаться с ним нужно крайне осторожно. Про искусственный интеллект они этого даже не понимают.
Параллель с ядерным оружием — ближайшая и хоть сколько-то адекватная. Но она неточна. И даже очень далека. Уже хотя бы потому, что ЯО изначально осмысливалось как что-то страшное и потому преимущественно плохое. Людям, обсуждающим ЯО, не надо было договариваться о базовых понятиях. И даже при этом они договорились о «сдерживании и нераспространении» ядерного оружия только приблизительно. На сдерживание работает страх перед катастрофой, а не договор.
Но с искусственным интеллектом не так. С ним все по-другому: ты говоришь, что это плохо и опасно, а я говорю, что это отлично и прогресс. Ты говоришь, что надо по мере сил запрещать, а я говорю, что прогресс неостановим, да здравствует прогресс. Ты говоришь, что искусственный интеллект может стать концом человечества, а я говорю, что он его обессмертит. Ты держишься за старушку Землю, а я, между прочим, с помощью ИИ готовлюсь колонизировать далекие планеты…
К моменту появления ядерного оружия человечество уже очень хорошо знало, что такое оружие.
Ко времени появления искусственного интеллекта человечество мало знает про интеллект, а из того немногого, что знает, считает, что «интеллект — это хорошо».
Человечество не привыкло страдать от интеллекта. Войны и всевозможные преступления принято представлять не как плод интеллекта, а как результат его отсутствия. Между тем это всего лишь угол зрения, и войну недаром считают одним из двигателей прогресса (стоит вспомнить, сколько технологий изначально придумывалось для войны и лишь потом перетекло в мирную жизнь).
Я боюсь, что до того как человечество хотя бы осознает необходимость очень жестко регулировать искусственный интеллект, ему придется не просто «почувствовать угрозу», а претерпеть совершенно конкретные масштабные бедствия. И главную проблему вижу даже не в этом, а в том, что человечеству понадобится еще сохранить достаточно ума, чтобы суметь уловить связь между бедствием и причиной. Сохранить достаточно ума в то самое время, как человечество начнет «благодаря ИИ» стремительно глупеть.