СПАСИБО, с большой буквы, для начала. Это моя двухсотая рассылка, и вы всё ещё здесь, верные друзья. Кстати, сегодня исполняется десять лет со дня смерти Линкольна Маистеги, моего предшественника в ежедневной колонке EL PAÍS и одного из самых образованных и увлечённых людей, которых я когда-либо знал. Есть две веские причины, по которым в этот четверг я с особым энтузиазмом займусь тем, что шахматы — великолепный повод поговорить практически о чём угодно, учитывая их увлекательные связи с многочисленными областями человеческого знания.
Не забывая, что шахматы могут способствовать качественному образованию, самая последняя из таких связей связана с ошибочно называемым искусственным интеллектом (ИИ). Здесь кроется великий парадокс: как я подробно описывал в статьях, конференциях и моей книге «Шахматы и наука: смешанные страсти» , шахматы были важнейшей областью экспериментов с самого начала вычислений с Аланом Тьюрингом и Клодом Шенноном (конец 1940-х годов) до недавней Нобелевской премии по химии (2024) Демиса Хассабиса и его команды в Deep Mind (Google), создателя программы AlphaFold, которая сумела расшифровать структуру белков. Однако мы не должны называть ChatGPT и его мариачи «интеллектуальными», если мы хотим быть строгими в нашем языке. Человек, который больше всего убедил меня в этом, — международный авторитет в этой области, Рамон Лопес де Мантарас, с которым я поддерживаю тесные отношения на протяжении многих лет; Это одна из многих статей, где он это объясняет. И если кто-то из вас считает эти программы умными, я обещаю убедить вас в обратном в следующих абзацах.
Когда Deep Blue (IBM) победил Гарри Каспарова в историческом поединке в Нью-Йорке в 1997 году, главным фактором его успеха стала брутальная переборная сила (до 200 миллионов ходов в секунду), подкреплённая тонко настроенной системой распознавания образов (то, что мы называем интуицией, адаптированной к чипам), досконально разработанной программистами IBM и несколькими нанятыми гроссмейстерами (например, Мигелем Ильескасом, восьмикратным чемпионом Испании). Был и третий фактор, но он не имеет значения для моей сегодняшней цели: Каспаров не совладал со своими нервами и играл ниже своего уровня. Однако восемь лет спустя уже было совершенно очевидно, что лучшим шахматистом в мире была машина.
Примерно полгода назад в новостной рассылке я озаглавил статью « ChatGPT и чит DeepSeek (игра в шахматы)». Там я подробно рассказал об опасности того, что программисты внушают машине стремление побеждать любой ценой, включая такие незаконные приёмы, как перемещение фигуры на другое поле во время игры или запуск в фоновом режиме кубка Stockfish (одной из лучших шахматных программ на данный момент). Другими словами, зло не заложено в машине генетически, а заложено людьми. Поэтому крайне важно, чтобы окончательное решение принимал честный, образованный и порядочный человек, а не сволочь вроде Трампа, Путина или Нетаньяху.
Но реальность ещё хуже, в чём я только что убедился, прочитав стенограмму великолепного диалога Каспарова с учёным Гэри Маркусом в подкасте The Atlantic. Маркус подчёркивает то, о чём постоянно говорят Лопес де Мантарас и другие скептически настроенные реалисты: ChatGPT и подобные ему обладают колоссальной мощью в распознавании образов (в случае Google Maps и других приложений это были бы в основном грубые вычисления), но они не проверяют достоверность своих данных не только потому, что не запрограммированы на это (крупные технологические компании зарабатывают огромные деньги на мистификациях и демагогии), но, прежде всего, потому, что они ничего не понимают в том, что делают: если в большинстве источников повторяется ложь, ChatGPT считает её правдой. Играя в шахматы против этих приспособлений, Маркус увидел, что они делают незаконные ходы (в дополнение к упомянутому мной мошенничеству), но не из злого умысла, а по идиотизму: правила шахмат у них в памяти, но они не способны правильно их применять, потому что иногда не понимают их, хотя и видели тысячи партий, где они применяются.
Маркус признаёт, что AlphaFold — лучшая из когда-либо созданных программ искусственного интеллекта, то есть совершеннейшее сочетание мощных вычислений и распознавания образов в гигантских, высокоразвитых масштабах. Именно поэтому AlphaFold достигла одного из величайших достижений в истории биологии (которое, как ожидается, будет достигнуто лишь в XXII веке) и уже сейчас весьма полезна в борьбе с раком, производстве лекарств в целом и других областях. С существенной оговоркой: Хассабис, бывший шахматный вундеркинд, — математик, лауреат Нобелевской премии по химии.
Каспаров и Маркус глубоко обеспокоены злоупотреблением ИИ, особенно для манипулирования выборами путём обмана людей. Маркус надеется, что огромный спрос на ИИ для проверки достоверности его информации приведёт к появлению программ, которые это делают: «Те, кто против него, — это горстка магнатов, пусть даже и обладающих огромной властью». Каспаров настроен пессимистично по этому поводу, и, думаю, у него есть очень веские аргументы в пользу этого.
Давайте рассмотрим лишь несколько последних новостей. Отвратительный Трамп, демократически избранный 77 миллионами граждан якобы самой передовой страны мира, видит, как крупные технологические магнаты воздают ему почести, в то время как Израиль бомбит Катар, а Россия вторгается в воздушное пространство Польши – в двух войнах, которые он обещал прекратить в одночасье. Аюсо, президент Мадридского сообщества, говорит поистине возмутительные вещи о секторе Газа, в то время как опросы общественного мнения уверяют, что она одержала бы победу на выборах, если бы они состоялись завтра. Европейский союз не способен осудить действия Нетаньяху как геноцид (из-за давления Европейской народной партии), как бы мы – и я тоже – ни были в ужасе от преступлений ХАМАС. Я мог бы продолжить ещё несколько абзацев, но, думаю, этого достаточно.
Каспаров вспоминает, что в 1997 году — я знаю, что он прав, потому что был там, в Нью-Йорке — общественное мнение и журналистика видели в нём спасителя человечества от машин. Но его поражение привело не к непоправимой катастрофе, а, напротив, ко многим важным научным достижениям. Теперь история повторяется, и мы снова ощущаем риск крупной катастрофы.
Но этого можно избежать. Крайне важно ежедневно посвящать часть своего времени размышлениям и проверке достоверности того, что мы читаем, слышим и видим. Как ни парадоксально, ИИ может помочь нам делать это лучше и быстрее... если использовать его разумно и осторожно. Мне очень понравилось недавнее интервью в La Vanguardia с финским экспертом Илккой Туоми (Лопес де Мантарас полностью с ним согласен): «Искусственный интеллект впечатляет, но не обладает интеллектом».
Информационный бюллетень Леончо Гарсии
(в пересказе)
