Наряду с распоясавшимися вконец медведями особой темой ушедшего сентября стала дискуссия о глобальных угрозах, которые готовит человечеству неудержимое развитие искусственного интеллекта. И если решение проблемы с буро-косолапыми видится более-менее ясным и достижимым (отрегулировать поголовье и пищевые отходы не сваливать где попало), то с ИИ все намного сложнее…
На самом деле дискуссия не началась, а возобновилась, что, надо полагать, произойдет еще не раз. Начинают ее люди весьма видные. Около двух лет назад главы нескольких американских IT-гигантов выступили со взволнованным призывом обуздать ИИ, пока тот еще ростом невелик, причем сделать это намеренно, согласно гражданской сознательности и доброй воле – а то малыш подрастет и обуздает всех нас.
Им никто не верит
Нынче история повторилась – главы крупнейших компаний, занимающихся разработкой искусственного интеллекта – опять же американских, – и сам Илон Маск призвали замедлить ИИ «ради человечества», иначе все будет как в фильме «Терминатор», только еще масштабнее и страшнее. Призыв поддержал нобелевский лауреат, один из создателей рукотворного разума Джеффри Хинтон, предупредивший, что, если не замедлить ИИ и не обложить его законодательными ограничениями, это может привести к катастрофическим последствиям. Которые, в свою очередь, сравнивают с инопланетным вторжением – начиная с того, что искусственный сверхразум захватит весь интернет, а затем станет угрозой человечеству как виду.
В тот прошлый раз призыв мастодонтов IT по другую сторону Атлантики не восприняли всерьез не только потому, что он выглядел как «война пчел против меда», но и по причине его национально-государственного происхождения. Любым призывам из США, даже самым пламенно-гуманистическим, прочий мир (включая тот, что от Штатов напрямую зависит) по умолчанию не верит, ибо, во-первых, не было случая, чтоб не обманули, во-вторых, абсолютно все, что оттуда доносится, продиктовано стремлением обойти конкурентов и больше ничем. Производители систем ИИ на других континентах спокойно пропустили мимо ушей предложение «работать потише», поскольку не сомневались, что сами американцы так делать не будут, а кто по глупости или прекраснодушию поддастся – проиграет.
Теперешняя реакция – почти такая же. Разве что теперь призыв расценивают в том числе как одну из попыток США удержать явно ускользающее превосходство над остальным миром. ИИ здесь действительно играет крайне важную роль. Однако есть и другое значимое обстоятельство, о котором в своем МАХ-канале упоминает заместитель председателя Совета безопасности РФ Дмитрий Медведев.
«Создатели различных вариантов генеративного ИИ лукавят. Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI (англ. – искусственный интеллект) погубит человечество. Перспектива этого вполне туманна. А вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнет в воздухе самолеты или уничтожит АЭС. И тогда придут уже за создателями generative AI. И предъявят многомиллиардные иски…»
Кроме того, отмечает он, договориться о регулировании ИИ на межгосударственном уровне в принципе можно, однако поперек этого стоит все тот же несусветный эгоизм и национализм США, а также неистребимая жадность корпораций. Зампред Совбеза иронически заключает, что нам остается только уповать на гуманизм «рукотворного умника»: «У него пока нет явных эмоций, но каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей». А свой сверхразум Россия тоже создает и обязательно создаст.
Между тем еще в марте нынешнего года журнал «Эксперт» опубликовал статью Дмитрия Медведева «Новые технологии – лестница в небо или дорога в ад», где наряду с оптимистическими перспективами, связанными с развитием ИИ, названы основные угрозы – от созданной человеком опасности из космоса до безработицы и терроризма, возможности которого также могут вырасти. У этого текста не совсем голливудский финал – при всех противоречиях странам рано или поздно придется договариваться о принципах контроля ИИ: «На кону существование всего человечества, положение которого становится все более неустойчивым и печальным. Впрочем, еще Сартр заметил, что «настоящая свобода начинается по ту сторону отчаяния».
Как это было
Однако здесь самое время выдохнуть и поразмышлять о некоторых с виду простых, но важных вещах, а размышление – первое лекарство от страха.
Создание искусственного интеллекта, несомненно, стоит в ряду таких технологических революций, как «приручение» огня и некоторых видов животных, изобретение лука, металлургии, книгопечатания, огнестрельного оружия… Каждое из них поднимало род людской на новую ступень развития, хотя не для всех оборачивалось добром. Произведения Ариосто, Сервантеса, а также их менее знаменитых современников содержат лютые проклятья «стреляющим палкам», обрушившим не только благородство рыцарской войны, где бились лицом к лицу, но и само рыцарство, со всей его поэзией и кодексом чести. Луддиты громили механические ткацкие машины, ибо каждая оставляла без хлеба и будущего целый квартал ремесленников-ткачей. Один пашущий-сеющий агрегат заменял десяток работавших по старинке крестьянских семей, потом деревни на пятьдесят дворов – и где они теперь, те деревни? Но постепенно жизнь входила в новую колею, появлялись новые возможности и даже радости. Революции, через множество частных и общих трагедий, рано или поздно перетекают в обыденность.
Что касается потенциальных угроз ИИ (в том числе упомянутой в МАХ-канале Д. Медведева), то по большому счету это предчувствие родилось очень давно – из взбесившейся «разумной» машины, мотива, созданного сказочниками и подхваченного фантастами. Это и глиняный Голем рабби Лева из Праги (XVI в.), и Пиноккио с Буратино – и так до булгаковского Шарикова, Терминатора и киношедевра Стенли Кубрика «2001 год: Космическая одиссея», впервые появившегося на экранах в 1968-м и вплотную подошедшего к тому, о чем будут говорить всерьез спустя почти 60 лет.
Там, напомню, был суперкомпьютер, управлявший межпланетным кораблем, обладавший, помимо могучего интеллекта, чувствами, о чем создатели, видимо, не догадывались. Компьютер обиделся на то, что люди уличили его в ошибке и задумали отстранить от власти, – в отместку он убил почти весь экипаж. Остался в живых только один астронавт, который и уничтожил зарвавшийся сверхмозг. Как? Где молотком, где ломом, а потом вилку из розетки вытащил… Наш парень!
Может быть, эта сказочная история (а все искусство – сказка) станет напоминанием о том, что воля человека находится в начале начал любых, казалось бы, уже не зависящих от нее процессов и творений. Даже таких сложных и потенциально коварных, как ИИ.



