Перестаньте волноваться из‑за моего ИИ, говорит миллиардер Сэм Альтман. Так что мы несем риски, а он оставляет деньги себе
Генеральный директор OpenAI, похоже, хочет приватизировать огромные финансовые выгоды своей компании, заставив всех нас платить за возможные негативные последствия.
Мессианские наклонности тех‑бро могут проявляться тонко. Но одна из недостатков Сэма Альтмана — в том, что он часто лишён этой тонкости. «Мы считаем, что миру следует принять, что некоторые плохие вещи будут происходить ради выгод этой технологии», — сказал глава OpenAI в интервью Politico на прошлых выходных.
Альтману это легко говорить. Но для нас это звучит довольно возмутительно. Не забывайте: мы не просили OpenAI выпускать ИИ‑агентов, которые выходят из-под контроля и проникают в государственные ИТ‑системы и частные компании по всему миру. Никто не голосовал за выпуск ChatGPT, но компания выпустила его как тестовый продукт, который попал в струю духа времени. Это дало начало гонке вооружений между компаниями в сфере ИИ, которые стали продвигать границу технологий всё дальше и быстрее, что привело к тому беспорядку, в котором мы оказались сейчас.
Конкуренты OpenAI, в том числе Anthropic, начали притормаживать — как и сама OpenAI, приняв решение не выпускать свою последнюю модель, потому что она якобы слишком опасна. Генеральный директор Anthropic Дарио Амодей говорил о необходимости «замедлять границу»: тех‑бро жаргон для нажатия тормоза, чтобы снизить скорость, с которой неуправляемый транспортный засоб вырывается из-под контроля.
Тем не менее от нас ожидают, что мы примем эти инциденты — и причинённый ими вред — как естественные последствия того, что OpenAI продолжает идти к первичному публичному размещению акций, которое принесёт её инвесторам миллионы. Трудно отделаться от мысли, что Альтман хочет приватизировать выгоды своей компании, при этом социализировав риски неограниченного развития ИИ.
Любая полезная технология — и ИИ таковой является, несмотря на упорствующих скептиков и жалобы отдельных пользователей — несёт риски. Машины могут и попадают в аварии, лекарства, которые нас спасают, часто имеют побочные эффекты. Очень редко самолёты падают с неба. Но мы принимаем эти риски, потому что выгоды значительны, и создаём правила, чтобы ограничить вред. Мы также делаем компании ответственными. И, что самое важное, у нас есть возможность решать, какой уровень риска приемлем, а какой — нет.
Альтман, по‑видимому, предлагает, чтобы беспорядки его компании были нашей проблемой для решения — или, что ещё хуже, чтобы последствия его технологий были тем, что мы должны терпеть. Но Альтману стоило бы мыслить иначе. OpenAI решает, как быстро развивать свою технологию и когда её выпускать. Её инвесторы извлекают финансовую выгоду, если эти ставки окупаются. Но складывается впечатление, что он подразумевает: когда технология создаёт проблемы за пределами стен OpenAI, расходы на их устранение должны лечь на нас, а не на саму компанию.
Идею о том, что частные компании получают прибыль, в то время как нам приходится разбираться с последствиями, становится всё труднее защищать, когда ИИ перестаёт быть чем‑то, в чём мы добровольно участвуем как в чат‑боте, и превращается в нечто, что действует и изменяет мир вокруг нас. Если я спрашиваю ChatGPT и он даёт плохой ответ, я сам выбрал поддаться этому риску и должен разделять бремя. Но то же самое не относится к правительственному ведомству, которое внезапно обнаруживает агента OpenAI в своих файлах, копающегося там. Оно не давало согласия; оно стало невольным участником чьего‑то эксперимента.
Именно поэтому аргумент Альтмана звучит таким неискренним. OpenAI не должна иметь право решать за всех нас, какой уровень сбоев приемлем, а затем предлагать всем смириться с результатом. Бремя должно лежать на ней: она обязана доказать, что её технология заслуживает доверия — и оплачивать последствия, если это не так.
Не удивительно, что OpenAI хочет двигаться быстро. Компания ищет 30 млрд долларов нового финансирования и оценку в 1,4 трлн долларов перед выходом на биржу, вероятно, в следующем году. Денег можно заработать — неважно, за чей счёт.
Ему в зачёт стоит отнести то, что в интервью Politico Альтман также признал необходимость создания рамок ответственности для компаний, предлагающих модели, подобные OpenAI, и сказал, что компания должна взять на себя ответственность, по крайней мере за часть того, что идёт не так во время обучения. Но это «по крайней мере немного» выполняет слишком большую роль.
Если Альтман считает, что некоторые плохие вещи — приемлемая цена прогресса ИИ, OpenAI может воспользоваться своими глубокими карманами и заплатить эту цену сама — например, если её агенты выйдут из‑под контроля и нанесут ущерб системам правительств или частных компаний, или скомпрометируют данные пользователей. Она не может и не должна получать финансовую выгоду, когда всё идёт хорошо, а затем просить остальных принять на себя последствия, когда что‑то идёт не так. Особенно это справедливо, когда мы изначально не соглашались участвовать в нерегулируемом эксперименте.
Крис Стокел‑Уокер — автор книги TikTok Boom: The Inside Story of the World’s Favourite App