Компания Anthropic в четверг внесла изменения в свою политику использования, чтобы запретить пользователям проявлять неоправданную жестокость по отношению к своей системе искусственного интеллекта Claude, на фоне продолжающихся философских дискуссий о возможности сознания ИИ.
Лаборатория ИИ, базирующаяся в Сан-Франциско, обновила свои правила, включив в них «запрет на продолжительное и неоправданно жестокое поведение по отношению к нашим моделям». Политика уточняет, что основным механизмом обеспечения соблюдения будет способность самой Claude завершать такие взаимодействия.
Обновленная политика не делает прямого упоминания о так называемом «благополучии модели» — концепции, согласно которой системы ИИ могут заслуживать видов защиты, обычно предназначенных для живых существ, — однако руководство Anthropic открыто обсуждало эту идею.
Еще в прошлом году компания сообщала, что предоставила Claude возможность прекращать диалоги в редких, крайних случаях «упорно вредоносного или оскорбительного взаимодействия пользователя». В феврале генеральный директор Dario Amodei заявил в The New York Times, что он не уверен в наличии сознания у моделей ИИ, отметив: «Мы не знаем, обладают ли модели сознанием... Но мы открыты к этой идее».
Jackson Stakeman, генеральный менеджер компании Sparq, предоставляющей услуги ИИ и базирующейся в Атланте, считает, что вопрос о сознании ИИ может быть ошибочным. Он заявил AFP: «Сознание — это ловушка. Мы не можем доказать его друг в друге. Обсуждать это в отношении ИИ — это ходить по кругу». Он добавил, что «зеркало является лучшей метафорой. Эти системы отражают то, что мы вкладываем, в масштабе. Этого достаточно для изменения политики» в Anthropic.
Некоторые общественные деятели отвергают идею машинного сознания, включая Папу Лео XIV и главу отдела ИИ Microsoft Мустафу Сулеймана. Сулейман написал в эссе в прошлом месяце: «ИИ не обладают сознанием. Они не чувствуют, не переживают и не страдают». Он предупредил, что «предоставление прав и моральной защиты технологической сущности, которая, похоже, движется к тому, чтобы стать сейсмически более способной и интеллектуальной, чем мы, является рецептом катастрофы».
В проповеди, произнесенной на итальянском языке в четверг в базилике Святого Петра в Ватиканском городе, поп предположил, что машины лишены души, поскольку они лишь быстро «компилируют данные». Pontiff подчеркнул, что разум не должен просто компилировать данные, как это делает алгоритм, и должен «вспоминать прожитый опыт, который содержит глубины смысла, которые может распознать только человеческая душа, и глубже связываться с благостью этого опыта».