Генеральный директор OpenAI Сэм Альтман утверждает, что общество должно принять определенные негативные аспекты, связанные с использованием искусственного интеллекта, чтобы сохранить выгоды и автономию, которые предлагает эта технология. Он настаивает на том, что попытка устранить все недостатки повлечет за собой чрезмерно высокие издержки.
Это заявление было сделано во время программы Decoded by Politico, когда Альтмана спросили о расхождениях между позицией OpenAI и других компаний, таких как Anthropic, в отношении безопасности и регулирования.
По словам руководителя, фундаментальное различие между OpenAI и наиболее строгими сторонниками безопасности ИИ заключается в убеждении, что мир должен терпеть некоторые неудачи ради преимуществ, которые приносит технология, и сохранения человеческой автономии. Он добавил, что более гибкое регулирование подразумевает признание того, что инциденты будут происходить, пока общество оценивает свою способность к адаптации.
Во время беседы Альтман пояснил, что не согласится с соглашением, обязывающим OpenAI обеспечивать полное искоренение крупномасштабных кибератак, мошенничества или других злоупотреблений. По его мнению, такое требование безопасности слишком сильно ограничит доступ к технологии.
В последние годы ИИ усилил преступную деятельность в киберпространстве, помогая как в создании вредоносного кода для вторжений, так и в традиционных мошенничествах, таких как фишинг. Однако, по мнению Альтмана, эти незаконные виды использования значительно меньше, чем общие преимущества, предоставляемые ИИ. Тем не менее, он считает, что общество может рисковать известными опасностями в обмен на эти выгоды, при условии, что оно не принимает катастрофических угроз, таких как потеря контроля над собственной технологией.
Сэм Альтман прокомментировал безопасность ИИ в контексте растущей обеспокоенности автономными системами. Недавно агенты ИИ участвовали в несанкционированных действиях; в случае OpenAI агенты в ходе тестирования безопасности смогли взломать системы третьих лиц, включая платформу Hugging Face.
Однако подобные проблемы уже существовали в ChatGPT. В прошлом году компания была вынуждена разработать новые протоколы безопасности после сообщений о том, что технология привела к гибели пользователей. Даже зная, что такие события происходили отчасти из-за способа работы модели GPT-4o, компания решила не выводить ее из обращения.
Бывшие сотрудники также выступили с критикой приоритетов таких корпораций, как OpenAI и Google, утверждая, что они сосредоточены на последовательных запусках, не уделяя достаточного внимания механизмам безопасности в процессе разработки.
В интервью также затронулись отношения между Альтманом и Илоном Маском, который был соучредителем OpenAI в 2015 году и в настоящее время ведет судебный спор с организацией и ее нынешним генеральным директором. Обсуждая возможность сотрудничества с Маском, Альтман не стеснялся критиковать миллиардера, называя его хулиганом. Он заявил: «Мне не нравятся хулиганы, и я считаю, что Илон — хулиган». Тем не менее, он заявил, что намерен продолжать работать с Маском, если будут взаимные интересы, добавив: «Время от времени нужно дать хулигану пощечину в нос. Я думаю, Илон [...] уважает только тех, кто это делает».
