10 марта 2024
В мире искусственного интеллекта (ИИ) произошло значительное событие: более 100 ведущих экспертов обратились с открытым письмом к крупнейшим разработчикам технологий генеративного ИИ, включая OpenAI, Meta и другие, с требованием предоставить возможность независимого тестирования их продуктов.
Эксперты подчеркнули проблему условий использования, разработанных компаниями, которые ограничивают возможности для независимых исследований безопасности ИИ-инструментов. В число подписантов входят известные специалисты, такие как Перси Лианг из Стэнфорда, лауреат Пулитцеровской премии Джулия Энгвин, Рене ДиРеста из Стэнфордской интернет-обсерватории, стипендиат Mozilla Деб Раджи, бывший член Европейского парламента Мариетье Шааке и Суреш Венкатасубраманян из Университета Брауна.
Основные требования
Авторы письма призывают к созданию "безопасной гавани" для исследователей, которая позволит им оценивать продукты ИИ без опасений юридического преследования или блокировки аккаунтов. Они настаивают на необходимости изменения условий использования компаниями, чтобы обеспечить возможности для академических исследований и исследований безопасности.
Значение для общества
Это обращение поднимает вопросы ответственного развития технологий ИИ, подчеркивая важность независимого анализа для идентификации и предотвращения рисков, связанных с предвзятостью, нарушением авторских прав и созданием несогласованных интимных изображений. Эксперты стремятся к формированию экосистемы, в которой технологии ИИ развиваются и внедряются ответственно, с учетом благополучия общества.
Заключение
Открытое письмо экспертов является важным шагом на пути к более безопасному и прозрачному будущему технологий искусственного интеллекта. Оно призывает к сотрудничеству между разработчиками ИИ и научным сообществом, чтобы вместе обеспечить развитие технологий в интересах всего общества.