Найдут ли в Давосе подход к искусственному интеллекту?

В самом ли деле искусственный интеллект стал частью культурного и научного мейнстрима, в самом ли деле у нас наступила новая эра, когда технологии уже в теории способны превзойти человеческие возможности? © Keystone / Laurent Gilliéron

Создание эффективных инструментов на основе искусственного интеллекта (ИИ) станет на ближайшее будущее основной задачей. И, как всегда, когда появляется новая технология, возникает вопрос рисков и менеджмента, а также социальной справедливости и авторских прав. На очередной сессии Всемирного экономического форума (ВЭФ) в Давосе его участники попытаются устроить «мозговой штурм» в попытках найти подходы к решению всех этих проблем. 

«Если искусственный интеллект однажды в самом деле станет умным, то первое, что он сделает, — это заставит работать самих людей». Этот тезис, озвученный недавно немецким стендап-комиком Дитером Нуром, не так уж далек от истины. Появившаяся чуть больше года назад программа ChatGPT от компании OpenAI и в самом деле уже заставляет людей ломать голову над целым рядом вопросов.

Например: в самом ли деле искусственный интеллект стал частью культурного и научного мейнстрима, в самом ли деле у нас наступила новая эра, когда технологии уже в теории способны превзойти человеческие возможности, в самом ли деле ИИ ставит под вопрос демократию и действительно ли миллионы людей могут остаться без работы? Стоит бросить взгляд в историю: любые инструменты, создававшиеся человеком, начиная с палки-копалки, преследовали цель «превзойти возможности человека», точнее, сделать эти возможности более широкими и перспективными.

Кроме того, история также показывает, что все эти технологии, от колеса до паровой машины, от автомобиля до станков с ЧПУ, вели к серьезным структурным переменам в экономике, итогом которых были и проигравшие, и победители. То же самое происходит и с технологиями на основе ИИ, например в области машинного перевода. Понятно, что ИИ не ограничивается переводом, особенно если учесть, какую роль в настоящее время играют компьютерные программы в сфере управления войсками на поле боя или системами вооружений (автономные дроны).

Свою роль играет то, что называется геополитикой, которая стала новой переменной величиной: многие страны уже осознали, что ИИ – это не просто технология, но ещё и политическое и экономическое оружие. Началась новая гонка вооружений, лидируют в которых Китай и США. И понятно, что все вокруг, начиная от «капитанов экономики» до Генерального секретаря ООН Антониу Гутерриша, призывают начать регулировать такого рода системы.

Все в целом согласны с необходимостью создания прозрачных и надежных моделей на основе ИИ. «Но в мире пока нет единого понимания того, каким образом и какие процессы регулирования ИИ должны стать объектом международного права. Когда речь идет о прозрачности и конфиденциальности разные страны пока придерживаются разных ценностных парадигм», — заявил недавно в Цюрихе на специализированной конференции по системам искусственного интеллекта Роберт Трэгер (Robert Trager), директор «Инициативы по методам управления ИИ» при Оксфордском университете (Oxford Martin AI Governance Initiative at the University of Oxford).

На очередной сессии Всемирного экономического форума (ВЭФ) в Давосе его участники попытаются устроить «мозговой штурм» в попытках найти подходы к решению всех этих проблем. Подготовка к этому «штурму» началась еще летом 2023 года, когда ВЭФ создал Альянс по управлению ИИ (AI Governance Alliance), заявленная цель которого состоит в том, чтобы сформировать общее представление о возможных будущих форматах управления ИИ, а также стимулировать инновации и обеспечивать использование потенциала ИИ для улучшения жизни общества. Свою первую встречу Альянс, объединяющий правительства ведущих стран мира, ученых и более сорока компаний, включая OpenAI и таких технологических гигантов, как Microsoft, Alphabet, Meta, провел в Сан-Франциско в ноябре 2023 года.

swissinfo.ch

Многие считают, что очередная сессия ВЭФ в Давосе (Швейцария), которая начнется 15 января 2024 года и пройдет под девизом «Восстановление доверия» (Rebuilding Trust), станет шансом для Форума доказать: он вполне способен создавать условия для преодоления межгосударственных разногласий, он вполне сможет убедить всех основных игроков предпринять конкретные действия для обеспечения «ответственного развития ИИ». Проблема только в том, что такие форумы, как ВЭФ, обычно вольно или невольно имитируют старую идею «мирового правительства». А она, идея, увы, уже доказала свою негодность. Более того, было бы просто прекрасно, если бы мир был таким простым и управляемым. Увы, реальность выглядит иначе.

Разные взгляды и цели

Мир развивается децентрализованно и во многом хаотично, что не всегда плохо. Такой же творческий хаос наблюдается и в области ИИ. По данным Наблюдательного совета ОЭСР по политике в области ИИ (OECD AI Policy Observatory), в настоящее время существует более семи сотен национальных инициатив по политике в области ИИ из шести десятка стран. Многие эти инициативы напрямую отражают факт значительного расхождения разных стран во взглядах на роль ИИ и на цели, которые следует ставить и достигать в этой области с помощью регулирования.

Так, в июле 2023 года китайские регулирующие органы ввели в действие правила применения ИИ с конкретной целью предотвратить разработку и использование данной технологии с целью подрыва «социалистических ценностей». На западе же во главу угла ставится защита основных прав и гражданских свобод человека. Например, согласованный в ЕС закон«Об искусственном интеллекте» (Artificial intelligence act) существенно ограничивает масштабы использования технологий распознавания лиц. Ограничен ИИ и в области так называемого «социального скоринга» (анализ социального поведения и/или личностных характеристик).

По мнению Пола Нимитца (Paul Nemitz), главного советника Европейской Комиссии по вопросам перевода общества и экономики на цифровые технологии (Principal Adviser on Digital Transition at the European Commission), этот закон стал первым примером корреляции целей технических с целями политическими. А вот США идут иным, либеральным путем. Там вся ответственность возлагается на саму экономику в рамках практики саморегулирования в надежде, что надлежащая доля регулирования возникнет сама, не повредив инновационному прогрессу. Швейцария, не входя в ЕС, в целом склонна идти именно этим путем.

Но возникают и вопросы этического характера. Так, ЮНЕСКО еще в 2021 году обратила внимание на то, что нейросети и алгоритмы могут воспроизводить и усиливать существующие у их создателей предубеждения, усугубляя тем самым неравенство между Севером и Югом. Кроме того, все соответствующие технологии создаются с использованием английского языка, тогда как другие, особенно «экзотические» языки, не использующие латиницу, работают в этой сфере куда хуже, что видно на примере и переводческих программ: перевод с английского на немецкий получается очень качественный, перевод с немецкого на русский всегда еще приходится серьезно править.

Прозрачность на благо человечества

Давосский форум ВЭФ заявляет, со своей стороны, что он намерен привлечь к работе по устранению всех этих проблем и недостатков как ООН, так и бизнес и отдельные государства. В этом году в Швейцарию приедет, например, заместитель Генерального секретаря ООН и посол по особым поручениям в области высоких технологий Амандип Гилл (Amandeep Gill), кроме него, в Давос пожалуют вице-президент Microsoft Брэд Смит и вице-президент Google по международным отношениям Кент Уокер. Будут присутствовать и главы таких государств, как Швейцария, Франция и Корея. 

А вот как и на каком уровне представители США и Китая, стран, лидирующих в разработке ИИ, будут участвовать в Форуме? Пока сказать сложно. Неясно также, будут ли приглашены представители развивающихся стран и гражданского общества. Так что на ВЭФ предстоит не только как-то объединить усилия правительств в области регулирования ИИ, но еще и убедить разработчиков и пользователей ИИ, что глобальное регулирование и управление данными технологиями отвечает их интересам, а это совсем даже не очевидно. 

Начать с того, что компании не горят желанием (и не обязаны) раскрывать все свои технологические секреты, которые стоят миллиарды. Представители же академической науки, напротив, выступают за как можно большую прозрачность. Так, Антуан Босселут (Antoine Bosselut), руководитель Лаборатории междисциплинарных исследований в области машинного обучения и систем обработки естественного языка при Федеральном лозаннском политехе (EPFL), говорит, что руководящим и направляющим принципом в области управления ИИ должна стать прозрачность. 

Не держать в секрете

«Мы мало что выиграем, если будем держать всё это в секрете. Чем больше мы все будем знать об этих системах и о том, как проходит их «обучение», тем более эффективными будут наши решение с точки зрения общественного блага». Антуан Босселут принадлежит к числу почти восьми десятков ученых, присоединившихся к «Швейцарской инициативе по управлению ИИ» (Swiss AI initiative), запущенной в ноябре прошлого 2023 года.

«Открытость является основополагающим условием для того, чтобы такие технологии служили всем людям, а не небольшому сегменту представителей экономики, политика и бизнеса», — считает и Ханна Браме (Hanna Brahme), куратор швейцарского AI House Davos, организованного совместно швейцарскими Политехами из Цюриха и Лозанны (ETHZ и EPFL). По ее мнению, Швейцария, обладая репутацией нейтральной страны и мировой бизнес-площадки, а также обладая мощным инженерно-техническим сектором и развитыми и гуманитарными традициями, способна стать идеальным центром глобального ИИ-менеджмента. Однако гладко было на бумаге…

Согласно итогам исследования, проведенного Стэнфордским университетом, практически все известные модели нейросетей и прочих технологий на основе ИИ отнюдь не горят желанием заниматься «технологическим стриптизом». Даже самая «прозрачная» модель ИИ, Meta’s Llama 2, получила только 53 балла из 100 возможных. И это понятно: в 2023 году инвесторы влили в стартапы, занимающиеся моделями генеративного ИИ, такие как OpenAI, почти 10 млрд долларов. Акции американского производителя чипов Nvidia в 2023 году взлетели на 240%. Немалую выгоду от такого рода программ получают и транснациональные компании, такие как швейцарский фармацевтический гигант Roche. 

Его представитель сказал SWI, что достижения в области ИИ эквивалентны таким изобретениям, как электричество и Интернет, а каждое такое изобретение приводило в истории к мощному толчку в области инноваций, запускающих в свою очередь волну коренных социальных изменений. По оценкам инвестиционного банка Morgan Stanley, только в течение следующего десятилетия использование ИИ в области разработки новых лекарственных препаратов способно привести к появлению полусотни новых методов терапии, объем продаж которых превысит 50 млрд долларов.

Вопрос репутации ВЭФ

По мнению экспертов, Форуму будет нелегко преодолеть все эти разногласия, но у него все-таки есть повод для оптимизма с учетом большого опыта в сфере организации разного рода государственно-частных инициатив. Например, Глобальный альянс по вакцинам и иммунизации (GAVI), который был запущен на ВЭФ в 2000 году, сумел в дальнейшем помочь организовать вакцинацию 981 млн детей в беднейших странах мира.

Но критики ВЭФ утверждают, что многие инициативы так и остались в стенах Конгресс-центра в Давосе, будучи скорее пиаром. Есть риск, говорят критики, что, разглагольствуя о перспективах ИИ, участники форума окажутся в своей собственной реальности, которая не будет пересекаться с действительностью за пределами Давоса. Да и в целом многие до сих пор считают этот форум «мировым секретным правительством» и эксклюзивным собранием элиты и бизнеса, способного платить за членство в Форуме в 120 000 долларов в год.

С другой стороны, какая другая площадка способна еще собрать в одном зале такое количество представителей экономики, бизнеса, политики, культуры? По словам эксперта по цифровой этике Ниниан Пэффген (Niniane Paeffgen) из Женевы, в рамках дебатов о глобальном управлении ИИ непременно должно участвовать и гражданское общество. Так стоит ли ожидать чего-то особенного от Давоса в этом году? Некоторые эксперты считают, что стоит. 

Особенно с учетом того, что Форум соберется всего через несколько недель после того, как в декабре 2023 года ЕС сделал исторический шаг, согласовав первый в истории закон, в котором закреплены основы регулирования ИИ и который, как утверждают некоторые, может стать мировым стандартом. Однако такой «легалистский» образ мысли может сыграть с участниками Форума злую шутку: мир, как уже было указано, склонен не подчиняться ни законам, ни разного рода «мировым правительствам».

Редактирование франкояызычного оригинала статьи выполнила Вержини Манжан, перевод и редактирование, корректура, выверка фактов и стилистическая правка и адаптация русскоязычного оригинала статьи: русскоязычная редакция SWI Swissinfo.