Ведущие математики создали независимую группу для работы с ИИ-компаниями
iXBT.com · · g4169345

21 сентября объявила о создании Консультативная группа по математике и искусственному интеллекту (Advisory Group on Mathematics and Artificial Intelligence), которая будет консультировать ИИ-компании по вопросам взаимодействия с математическими исследованиями и научным сообществом. Её сайт размещён при Институте перспективных исследований (Institute for Advanced Study) в Принстоне. Участники подчёркивают независимость от ИИ-компаний и работают без оплаты.
21 сентября объявила о создании Консультативная группа по математике и искусственному интеллекту (Advisory Group on Mathematics and Artificial Intelligence), которая будет консультировать ИИ-компании по вопросам взаимодействия с математическими исследованиями и научным сообществом. Её сайт размещён при Институте перспективных исследований (Institute for Advanced Study) в Принстоне. Участники подчёркивают независимость от ИИ-компаний и работают без оплаты.
Инициатива возникла после того, как OpenAI обратилась к нескольким математикам с предложением войти во внешний консультативный совет. Вместо совета внутри компании учёные решили создать независимую группу и пригласить в неё других специалистов. Как отмечается в сообщении группы и блоге Терренса Тао, она не обладает полномочиями принимать решения за OpenAI или другие компании.
Первой задачей станет вопрос о том, как OpenAI следует координировать публикацию большого количества математических результатов, которые, как компания утверждает, получила с помощью своей внутренней модели. При этом сама группа отдельно подчёркивает: её заявление не подтверждает ни количество и содержание этих результатов, ни их математическую корректность, происхождение или порядок последующей публикации. Рекомендации будут публиковаться открыто, а группа планирует принимать предложения от математического сообщества.
Сейчас речь идёт не о проверке заявлений OpenAI, а о независимом канале для выработки правил работы с результатами ИИ в математике. На практике группе предстоит определить рекомендации по вопросам происхождения результатов, их проверки, раскрытия информации и взаимодействия с научным сообществом. Насколько эти рекомендации повлияют на практику ИИ-компаний, станет понятно после публикации первых предложений.