Мария Сергеева: Завтра мы тоже будем воевать против этого

Вчера мне умный друг сказал: если бы существовала большая красная кнопка, которую можно нажать и отменить изобретение искусственного интеллекта, то я бы нажал, не раздумывая. Честно говоря, тоже давно про это думаю.

Вот и сейчас не покидает меня мысль про 150 иранских девочек и военные операции, которые для Пентагона просчитывает ИИ. Эффективно, не спорю. Убить всю родню рахбара одним махом - понятно, для чего. Но вот человек, зная, что невестка Хоменеи находится в школе для девочек, возможно, и дрогнул бы, и не захотел бы так планировать. Подумал, а стоит ли игра свеч. Есть же ещё и какие-то внутренние моральные ограничения.

А бездушный робот, этот идеальный сотрудник спецслужб, всё давно просчитал. Для него что офицеры КСИР, что школьницы - обычные статистические единицы. Медиа за нами, повестку скорректируем, никто про этих школьниц особо писать не будет, лучше отпразднуем Пурим. И приносит этот документ с готовым решением как бы на подпись человеку.

Да, конечно, решение об убийстве в итоге принимает человек. Но вот же перед ним - эффективные ходы без особых последствий. Просчитано суперинтеллектом. Ставить подпись всегда легче, чем придумывать. И ракета отправляется в путь.

Завтра мы тоже будем воевать против этого. По правде говоря, уже воюем, просто не все поняли. Бездушная эффективность нейросетки будет просчитывать наиболее болезненные ходы. У нейросетки нет чувств, гормона окситоцина, укоров совести и, тем более, веры в Бога. Любой Гитлер в сравнении с ней - ласковый щенок. Нейросетка не понимает важность соблюдения договорённостей, если за это не будет последствий, у нее нет репутации и чести. Она не боится стареть, не испытывает стресса и страха за будущее детей. Она не знает, что в середине двадцатого века человечество пришло в ужас от двух кровавых мировых войн, и долго строило архитектуру международной безопасности, чтобы жить в относительно стабильном мире хотя бы следующие 70 лет.

Мы для нее - это ресурс. Большая территория с пресной водой, лесами и редкоземельными элементами. Уже сейчас она считает, как бы побыстрей отобрать это в пользу своих создателей.