Искусственный интеллект принадлежит корпорациям

Не стройте иллюзий: искусственный интеллект принадлежит крупным технологическим компаниям. И если мы не будем осторожны, Microsoft, Amazon, Google и другие крупные компании воспользуются своим положением, чтобы определять политическую повестку дня в отношении ИИ. Как они это уже сделали во многих других областях.

До конца ноября, когда развернулась эпическая сага о крахе управления OpenAI, случайному наблюдателю ещё можно было простить предположение, что индустрия генеративного ИИ представляет собой динамичную конкурентную экосистему.

Но это не так и никогда так не было. И понимание причин происходящего имеет основополагающее значение для понимания того, что такое ИИ, и какие угрозы он представляет. Проще говоря, в контексте нынешней парадигмы создания всё более и более масштабных систем ИИ не существует разработок систем искусственного интеллекта без участия больших технологических компаний. За исчезающе немногими исключениями каждый стартап, каждый новый участник, и даже исследовательские лаборатории ИИ зависят от этих гигантов. Все они базируются на вычислительной инфраструктуре Microsoft, Amazon и Google для обучения своих систем. А также на огромный охват потребительского рынка этими компаниями для продвижения и продажи своих разработок.

На самом деле многие стартапы просто лицензируют и проводят ребрендинг моделей искусственного интеллекта, созданных и продаваемых этими техно-гигантами или их стартапами-партнерами. Это связано с тем, что за последнее десятилетие крупные технологические компании получили значительные преимущества. Благодаря доминированию в областях разработки и потребления, а также свойствам бизнес-модели самоусиливающегося контроля над процессом разработки им принадлежат «ингредиенты», необходимые для разработки и внедрения крупномасштабного ИИ. Структуру стимулов для исследований и разработок в области ИИ тоже формируют они, определяя настоящее и будущее этой технологии.

Недавняя шумиха вокруг OpenAI, в которой Microsoft продемонстрировала свое тихое, но твёрдое доминирование над организацией с «ограниченной прибылью». Это яркая демонстрация того, что мы анализировали в течение последних пяти лет, а именно: правила устанавливают те, у кого есть деньги. И прямо здесь и сейчас они участвуют в гонке на дно, выпуская свои сырые, недоделанные системы в попытке сохранить свое доминирующее положение.

Концентрация власти – это проблема не только рынков. Опора на несколько неподотчётных корпоративных игроков в обеспечении базовой инфраструктуры является проблемой и для демократии, культуры, а также индивидуальной и коллективной деятельности. Без решительного вмешательства рынок ИИ в конечном итоге укрепляться и иметь выгоду будут только те же самые компании, которые получали прибыль от бизнес-модели инвазивного наблюдения, питающей коммерческий Интернет. И очень часто – за счёт общественности.

Скандал с Cambridge Analytica был лишь одним из многих, разоблачивших эту мрачную реальность. Такая концентрация также создаёт единые точки отказа, что представляет реальные угрозы безопасности. А председатель «Комиссии по ценным бумагам и биржам» Гэри Генслер предупредил, что наличие небольшого количества моделей и участников ИИ в основе экосистемы искусственного интеллекта создаёт также системные риски финансового порядка, при которых последствия единичного сбоя могут распространяться очень широко.

Утверждение о том, что ИИ зависит от концентрации власти в технологической отрасли и усугубляет её, часто встречало отпор. Инвесторы, которые быстро перешли от Web3 к метавселенной и к искусственному интеллекту, стремятся получить прибыль в экосистеме, где бешеная шумиха в прессе приводит к прибыльным IPO и приобретениям. Даже если ожидания от предлагаемой технологии так и не будут воплощены в жизнь.

Но попытка изгнания – и последующее возвращение – соучредителей OpenAI Сэма Альтмана и Грега Брокмана не просто выдвигает на первый план силу и влияние Microsoft. Это доказывает также нашу точку зрения, что эти коммерческие соглашения дают крупным технологическим компаниям глубокий контроль над траекторией развития ИИ. История довольно проста: после того, как Microsoft, очевидно, была ошеломлена решением совета директоров, она предприняла шаги, для защиты своих инвестиций и своего плана получения прибыли. Компания быстро усилила свой вес, сплотившись вокруг Альтмана и пообещав «купить» тех, кто хотел дезертировать.

Теперь у Microsoft есть место в совете директоров OpenAI, хотя и без права голоса. Но истинное преимущество, которое крупные технологические компании имеют в сфере искусственного интеллекта – это сочетание их вычислительных мощностей, данных и огромного охвата потребительского рынка. Чтобы следовать своему подходу к разработке искусственного интеллекта «чем больше, тем лучше», OpenAI заключила сделку. Она передает Microsoft свою систему GPT-4 и все другие модели OpenAI по экслюзивной лицензии в обмен на доступ к вычислительной инфраструктуре Microsoft.

Для компаний, надеющихся создать базовые модели, нет альтернативы работе с Microsoft, Google или Amazon. И те, кто находится в центре событий, связанных с ИИ, хорошо об этом знают. Об этом наглядно свидетельствует тайный поиск Сэмом Альтманом независимых инвестиций в Саудовской Аравии и Эмиратах для предприятия по производству оборудования, которое, как он надеялся, могло бы конкурировать с Nvidia. Эта компания практически монополист в производстве современных чипов для обучения ИИ и является ещё одним ключевым узлом в цепочке разработки и внедрения ИИ. В итоге регуляторы США свернули первоначальные инвестиции Саудовской Аравии в поддерживаемую Альтманом компанию RainAI. Это ещё сильнее ограничило возможности выбора OpenAI в выборе на сужающемся рынке производителей чипов.

Существует несколько серьёзных альтернатив даже для тех, кто готов приложить дополнительные усилия для создания независимого от корпоративной отрасли ИИ. Как мы уже отмечали в другом месте, «ИИ с открытым исходным кодом» – нечёткий термин, который в настоящее время используется для описания всего, начиная с серии LLaMA-2 от Meta (сравнительно закрытой) и серии Pythia от Eleuther (максимально открытой) – не может сам по себе предложить способов быстрого выхода из области промышленной разработки. Во-первых, многие проекты искусственного интеллекта с открытым исходным кодом работают посредством кредитов на вычисления, распределения доходов или иных договорных соглашений с технологическими гигантами, которые сталкиваются с теми же структурными зависимостями. Кроме того, крупные технологические компании имеют давнюю традицию захвата разработок с открытым исходным кодом или иных попыток получения прибыли от них. Модели ИИ с открытым исходным кодом могут обеспечить прозрачность, возможность создания форков и расширяемость, и это положительный момент. Но это не решает проблему концентрации власти на рынке ИИ.

Сага OpenAI-Microsoft также демонстрирует факт, который часто теряется в шумихе вокруг искусственного интеллекта: пока не существует чёткой бизнес-модели, кроме увеличения прибыли от облака для крупных технологических компаний за счёт интеграции служб искусственного интеллекта в облачную инфраструктуру. А бизнес-модель важна, когда вы говорите о системах, обучение и разработка которых могут стоить сотни миллионов долларов.

Microsoft здесь не одинока: Amazon, например, управляет рынком моделей искусственного интеллекта, на котором все её продукты и некоторые другие работают с использованием Amazon Web Services. Недавно компания заключила инвестиционную сделку на сумму до 4 миллиардов долларов с Anthropic, которая также пообещала использовать собственный чип Amazon Trainium, оптимизированный для создания крупномасштабного искусственного интеллекта.

Крупные технологические компании становятся все более агрессивными в своих поступках, направленных на защиту своего влияния на рынке. Не заблуждайтесь: хотя на этот раз под прицелом оказалась OpenAI, мы все увидели, как это выглядит для любой небольшой организации. Когда большая фирма, от которой она зависит, делает предложение, от которого нельзя отказаться, более слабым ничего не остаётся, кроме как принять его во внимание и подчиниться.

Регулирование могло бы помочь, но государственная политика зачастую приводит к укреплению, а не ослаблению власти этих компаний, поскольку они используют свои финансовые возможности для политического влияния. Возьмём, к примеру, недавнюю активность Microsoft в Великобритании: на прошлой неделе компания объявила об инвестициях в 2,5 миллиардов фунтов стерлингов в создание облачной инфраструктуры в Великобритании. Не забыв при этом выразить благодарность премьер-министру, который открыто заявлял о своих амбициях построения национального сектора ИИ в Великобритании как своего главного наследия. Эту новость нельзя читать вне общеполитического контекста, потому что это явная попытка запутать расследование рынка в сфере облачных вычислений, проводимое регулятором конкуренции Великобритании. Оно было начато после исследования, в котором конкретно были выявлены опасения, зафиксированные рядом участников рынка в отношении антиконкурентного поведения Microsoft.

От (оказавшейся в итоге пустой) угрозы OpenAI уйти из ЕС из-за Закона об искусственном интеллекте до лоббирования Meta с целью освободить ИИ с открытым исходным кодом от основных обязательств по подотчетности, от усилий Microsoft по ограничительному лицензированию до финансируемой крупными корпорациями по внедрению учёных в Конгресс. И мы видим всё более агрессивную позицию со стороны крупных фирм, которые пытаются укрепить своё доминирование, используя свою значительную экономическую и политическую власть.

Гиганты технологической индустрии уже колесят в своих вагонах по мере появления новых правил в Белом доме, ЕС и других странах. Но очевидно, что нам нужно идти гораздо дальше. Сейчас настало время для жёсткого и надёжного режима подотчётности, который ставит интересы общественности выше обещаний компаний, которые отлично известны тем, что их не выполняют.

Нам нужны агрессивные требования прозрачности, которые устранят неясность вокруг фундаментальных вопросов. Таких как данные, к которым компании, занимающиеся искусственным интеллектом, получают доступ для обучения своих моделей. Нам также нужны законы об ответственности, которые возлагают на компании бремя доказательства того, что они соответствуют базовым стандартам конфиденциальности, безопасности и предвзятости, прежде чем их продукты искусственного интеллекта будут публично выпущены. И чтобы начать решать проблему централизации, нам нужно решительное регулирование, которое заставит бизнес разделяться между различными уровнями в области ИИ и не позволит техно-гигантам компаниям использовать свое доминирование в инфраструктуре для усиления своих позиций на рынке моделей и приложений ИИ.

Но если правительства в своей политике и дальше будут отдавать приоритет отраслевым интересам одной и той же узкой группе корпораций, мы далеко не продвинемся. После событий прошлой недели стало совершенно ясно, чему служат эти компании: только своей прибыли.

Авторы:

Amba Kak, Sarah Myers West, Meredith Whittaker

Об авторах:

Амба Как (Amba Kak) - исполнительный директор, а Сара Майерс Уэст (Sarah Myers West) – управляющий директор AI Now Institute, нью-йоркской исследовательской организации, специализирующейся на искусственном интеллекте. Мередит Уиттакер (Meredith Whittaker), президент Signal, является главным советником института.

Дата публикации: 05 декабря 2023

Оригинал: Make no mistake – AI is owned by Big Tech

Перевод: Wandering Thinker

Послесловие переводчика

Я не просто так давно уже высказываюсь против ИИ. Не потому, что я считаю, что ИИ – это плохо в принципе. Не потому, что я против прогресса. И не потому, что он кардинально изменит рынок труда – а это уже происходит. Нет. Просто сейчас прогресс слишком сильно обогнал человеческое сознание. Люди не готовы к разумному использованию таких технологий – во благо. Фактически же получилось, что разрабочики ИИ не только дали мартышке гранату, но и оккупанту-бепредельщику пулемёт. И это страшно. Мне не понять тех подонков-технарей, которые выпустили это в люди. Я не поверю, что люди, сумевшие разработать искусственный интеллект, не способны понять, какие последствия он принесёт в существующий мир. Что эти люди не знают, что Microsoft покупает не только дезертиров из OpenAI, но и с не меньшей лёгкостью и политиков. О чём очень вежливо и вскользь упомянули авторы статьи. Способны и понимают. Именно поэтому я называю их подонками. Они такие и есть.

Программисты не виноваты, конечно, что само государство как общественный институт сгнило до основания и давно уже требует кардинальной замены на что-то иное. Без продажных политиков, которых волнуют только предвыборные рейтинги и срок нахождения у кормушки. Без мегакорпораций, ставших фактически теневыми управляющими мира, и не несущими никакой ответственности за последствия своего управления – они оставили её официальным правительствам. Они виноваты в том, что за толику малую продали этот мир и будущее своих детей администрации цифрового активно стоящегося цифрового концлагеря.

И они не носители прогресса, не пророки светлого будущего. Они дьяволы многовекового регресса, реконструкторы феодального строя. То, что сообразно времени он будет завёрнут в фантик техногенщины и киберпанка, сути дела не меняет. Не одни программисты, конечно, виноваты. У всех, кто по доброй воле платит за продукцию Microsoft, Google, покупает товары на Amazon и музыку на Spotify, покупает подписки на сервисы ИИ, тоже рыльце в пушку. А у кого-то и вовсе мохнатое, как медвежья морда. Но… Не будь разработчиков всего этого, остальным тоже не довелось бы согрешить…

P.S. Кстати, хотите совсем свеженький пример подцензурности и манипулирования от Google? Интереса ради или контроля смысла перевода для я местами перевожу оригинальный текст с помощью гуглопереводчика. И вот, пытаясь перевести гуглтанслейтом: «Take Microsoft’s recent moves in the UK as an example: last week it announced a £2.5 billion investment in building out cloud infrastructure in the UK, a move lauded by a prime minister who has clearly signaled his ambitions to build a homegrown AI sector in the UK as his primary legacy» я получил:

«Возьмем, к примеру, недавние действия Microsoft в Великобритании: на прошлой неделе компания объявила об инвестициях в размере 2,5 миллиардов фунтов стерлингов в создание облачной инфраструктуры в Великобритании. Великобритания как его главное наследие.»

Стоп! То есть «a move lauded by a prime minister who has clearly signaled his ambitions to build a homegrown AI sector in the UK as his primary legacy» переводится как «Великобритания как его главное наследие»? Не знаю, кто как, но я не верю в такое незнание английского переводчиком Google. А вот в то, что кой-о-чём умалчивать велено, очень даже охотно…

©Wandering Thinker

This work by Wandering Thinker is licensed under CC BY-SA 4.0