"Осталось несколько лет". Судьба человечества решится не там, где все ждут

МОСКВА, 17 окт — РИА Новости, Захар Андреев. Технологические гиганты вступили в настоящую «гонку вооружений» в сфере искусственного интеллекта. В разработку вкладывают огромные ресурсы. При этом крупнейшие игроки делятся на два условных лагеря с принципиально разной идеологией. От того, кто победит, возможно, зависит будущее всей цивилизации.От такси до медициныПочти все главные научно-технические новости октября связаны с искусственным интеллектом. За нейросети дали сразу две Нобелевки: по физике — за разработку математических основ машинного обучения, по химии — за применение одной из таких систем в решении важной медицинской проблемы. И то и другое можно лишь с натяжкой отнести к физике и химии, но у Нобелевского комитета, кажется, просто не было других способов подчеркнуть растущую роль ИИ в современной жизни.Также в начале месяца инноватор Илон Маск эффектно представил полностью беспилотное такси Cybercab от Tesla. У автомобиля, выполненного в футуристическом дизайне в стиле ар-деко, нет ни педалей, ни руля. По выражению Маска, это своеобразный аналог лифта, который умеет безопасно и надежно доставлять пассажиров к месту назначения без всякого лифтера, то есть водителя.Таким образом, искусственный интеллект начинает менять реальный мир. Экспансия же в сетевом пространстве началась значительно раньше. И останавливаться не собирается. В мае компания OpenAI представила новое поколение программы ChatGPT. Одна из самых ярких способностей версии 4o — синхронный перевод, во время которого машина воспроизводит голос и интонации спикера со всеми нюансами. Фактически приложение стирает языковой барьер.Широкому распространению мешает лишь то, что доступ к коммерческому чату ограничен: для кого деньгами, для кого — санкциями.© AP Photo / Alex BrandonИлон Маск на предвыборном мероприятии кандидата в президенты США от республиканцев Дональда Трампа в городе Батлер© AP Photo / Alex BrandonИлон Маск на предвыборном мероприятии кандидата в президенты США от республиканцев Дональда Трампа в городе БатлерТем не менее научное и медицинское применение нейросетей пока относится к области перспективных технологий. «Небытовой» ИИ в виде чатов или беспилотных такси все еще выглядит забавной игрушкой, без которой легко обойтись. Однако лидеры индустрии открыто заявляют: никто даже представить не может, насколько такие системы изменят нашу жизнь уже в ближайшее время. Несколько лет назад генеральный директор Google Сундар Пичай сравнил изобретение нейросетей с приручением огня или электричества. Сегодня эти громкие слова подкреплены многомиллиардными вложениями.«К 2029-му превзойдет человечество»Свой искусственный интеллект разрабатывают все крупнейшие IT-корпорации: Google, Tesla, Apple, Meta* и Amazon. Microsoft же серьезно вложилась в OpenAI — компании принадлежит 49 процентов акций разработчика ИИ. Все конкурируют друг с другом за кадры и стремительно наращивают мощности.Так, Илон Маск только в этом году вложил в ИИ десять миллиардов долларов. Из этой суммы четыре пошли на чипы Nvidia для суперкомпьютера Dojo. Помимо прочего, умная машина обрабатывает данные с видеокамер, установленных на миллионах автомобилей Tesla по всему миру. На основе этой информации автопилот того же роботакси учится принимать правильные решения на дорогах. А чат-бот Grok и робот-андроид Optimus осваивают человеческое поведение на материале соцсети X (бывшей Twitter), также принадлежащей бизнесмену.© TeslaБеспилотное роботакси Cybercab от компании Tesla© TeslaБеспилотное роботакси Cybercab от компании TeslaВ свою очередь, Google на днях объявила, что будет первой компанией в мире, которая запитает технологии искусственного интеллекта от атомной энергии. Для этого закупит нескольких малых модульных реакторов от компании Kairos Power — пока они в стадии разработки. Наблюдатели отмечают: потребность в надежных генерирующих мощностях настолько высока, что технологические гиганты как-то забывают о переходе на возобновляемые источники тепла и света вроде солнечных панелей или ветряков.Битва идет за будущий не только коммерческий, но и идеологический успех. Именно Маск с его технологической экосистемой с одной стороны и руководство Google — с другой выступают выразителями крайних взглядов.Как ожидают отдельные эксперты, возможности цифрового разума уже в ближайшее время превзойдут человеческие. Такой гипотетический искусственный интеллект называют «общим» (artificial general intelligence, AGI). «Вероятно, в следующем году ИИ будет умнее любого человека. А к 2029-му — всех людей, вместе взятых», — написал Маск весной 2024 года. Главный вопрос в том, какие ограничения, а также, что не менее важно, какие ценности будут заложены в основу этой системы.«Драгоценная искра»Суть спора изложил биограф Маска Уолтер Айзексон. В книге он описывает разговор между предпринимателем и одним из основателей Google Ларри Пейджем, состоявшийся в 2013-м на вечеринке по случаю дня рождения Илона.Основатель Tesla и SpaceX утверждал: если не принять вовремя необходимые меры, то господство ИИ приведет к исчезновению человечества — «драгоценной искры света во Вселенной». Пейдж, по выражению Айзексона, считал это «сентиментальной чепухой» и обвинял Маска в «видизме» — ангажированности в пользу своего биологического вида.«Ну и что? — спрашивал Ларри. — Если сознание можно воссоздать в машине, почему не ценить его в той же мере? Это просто выведет нас на новую ступень эволюции».© AP Photo / Seth WenigРазработчик и сооснователь поисковой системы Google Ларри Пейдж© AP Photo / Seth WenigРазработчик и сооснователь поисковой системы Google Ларри ПейджКроме того, Маск обвиняет конкурентов из Google и OpenAI в том, что разрабатываемый ими ИИ подчинен леволиберальной идеологии так называемого вокеизма, суть которого передает аббревиатура DEI (diversity, equity and inclusion — разнообразие, равенство и инклюзивность). Эти ценности, считает Маск, для сторонников вокеизма важнее всего, в том числе объективной истины и даже человеческой жизни.В пользу теории говорит недавний скандал: пользователи заметили, что нейросеть Gemini от Google генерировала портреты исторических личностей (например, нацистов и отцов-основателей США), изображая их с разнообразным цветом кожи и полом.«Если ИИ запрограммирован на то, чтобы любой ценой добиваться разнообразия, как это было с Gemini, то он сделает все возможное, чтобы достичь этого результата, потенциально даже убивая людей», — написал Маск в Х в марте.Невыполнимые законыБизнесмен заявляет, что его компании разрабатывают искусственный интеллект, который, во-первых, нацелен на поиск объективной истины, а во-вторых, будет соблюдать законы робототехники. Эти постулаты сформулировал писатель-фантаст Айзек Азимов. Они сводятся к тому, что машина не должна причинять вред человеку «действием или бездействием». Но, как показал недавний инцидент, здесь тоже не все так просто.Как передает портал Avtoevolution, недавно автомобилю Tesla S на автопилоте пришлось разбираться с пресловутой «проблемой вагонетки». Прямо перед машиной на проезжую часть упал человек. Робот моментально принял решение выехать на встречную полосу, где лоб в лоб столкнулся с другой легковушкой. С одной стороны, пешеход был спасен, а с другой — жизни пассажиров обеих машин подверглись угрозе.Таким образом, даже если в «генетический код» ИИ заложат самые благие намерения, рано или поздно машинный разум все равно попадет в ситуации, когда хороших решений попросту не существует. С учетом растущих возможностей подобных систем они будут играть все большую, а в конечном итоге и определяющую роль в жизни людей. И пока ни у кого нет ответа на вопрос, сможет ли нечеловеческий интеллект вырулить в правильную сторону, если на кону окажется не одна-две жизни, а судьба всего вида Homo sapiens.* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.