В открытом письме эксперты призывают к шестимесячной остановке разработки технологии искусственного интеллекта, более мощной, чем GPT-4 OpenAI , из-за «серьезных рисков для общества и человечества».
Письмо из 600 слов адресовано разработчикам ИИ и оправдывает призыв к паузе, потому что «в последние месяцы лаборатории ИИ застряли в неконтролируемой гонке за разработку и развертывание все более мощных цифровых умов, которые никто — даже их создатели — могут понимать, предсказывать или надежно контролировать».
Маск был соучредителем OpenAI, которая изначально была создана как некоммерческая организация с миссией обеспечения того, чтобы ИИ приносил пользу человечеству. Маск ушел из совета директоров OpenAI в 2018 году.
OpenAI теперь является коммерческой, и многие считают, что компания отклонилась от своей первоначальной миссии. Тесное партнерство с Microsoft, которая инвестировала в компанию десятки миллиардов долларов, похоже, заставило OpenAI пойти на больший риск.
На прошлой неделе Mozilla объявила о новом стартапе — Mozilla.ai, целью которого является создание независимой экосистемы искусственного интеллекта с открытым исходным кодом, которая решает самые насущные проблемы общества в связи с быстро развивающейся технологией.
«Лаборатории ИИ и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами», — говорится в открытом письме.
Ранее сегодня правительство Великобритании представило свой технический документ, в котором подробно описан так называемый «инновационный» подход к регулированию ИИ. Эта структура вводит меры, направленные на повышение безопасности и подотчетности, но не создает специального регулятора ИИ, подобного подходу ЕС.
Тим Райт, партнер и специалист по регулированию технологий и искусственного интеллекта в юридической фирме Fladgate , прокомментировал британский технический документ:
«Принципы регулирования, изложенные в официальном документе, просто подтверждают предпочтительный подход правительства, который, по их словам, будет поощрять инновации в этой области, не возлагая чрезмерного бремени на компании, разрабатывающие и внедряющие ИИ, и в то же время поощряя справедливое и этичное использование и защищая людей.
Время покажет, принесет ли этот секторальный подход желаемый эффект. Что он действительно делает, так это ставит Великобританию на совершенно иной подход, чем ЕС, который проталкивает подробный свод правил, подкрепленный новым режимом ответственности и контролируемый единым регулятором высшего уровня ИИ».
На момент написания открытое письмо с призывом приостановить потенциально безрассудные разработки ИИ подписали 1123 человека.
Вы можете найти открытое письмо здесь.