Microsoft отключила модель искусственного интеллекта после того, как разработчики не смогли провести «тестирование на токсичность»
В понедельник Microsoft выпустила WizardLM-2, преемника модели искусственного интеллекта WizardLM, но в течение дня быстро удалила его из Интернета.
Компания удалила пост с объявлением о новом ИИ, а также его файлы на GitHub и платформе данных ИИ HuggingFace. Теперь оба репозитория содержат ссылки с ошибками 404, а модели были удалены из официальных «коллекций» Microsoft на HuggingFace.
«Мы сожалеем об этом», — написали разработчики ИИ в X (ранее Twitter) рано утром во вторник. «Мы случайно пропустили элемент, необходимый в процессе выпуска модели — тестирование на токсичность».
«В настоящее время мы быстро завершаем это испытание, а затем перевыпустим нашу модель как можно скорее», — продолжили разработчики, добавив смайлик скаковой лошади.
В ответ на вопрос одного пользователя X, были ли удаленные модели «не подвергнуты цензуре», разработчики WizardLM-2 ответили, что просто забыли о «необходимом тестировании», которое теперь требует Microsoft. Как сообщает издание The Information, исследовательская группа WizardLM-2 базируется в Пекине, Китай.
Оба теперь удаленных репозитория можно найти по ссылке в одном из опубликованных вчера сообщений от разработчиков WizardLM-2, которые на момент написания статьи оставались в сети. WizardLM-2 состоит из трех разных версий, получивших названия 8x22B, 70B и 7B. Каждая версия имеет разные сильные стороны и разные возможности. В сообщении в понедельник разработчики WizardLM-2 сравнили версию AI 8x22B с версией OpenAI GPT-4, добавив, что их модель лишь «немного отстает» в одном тесте производительности.
Но модели искусственного интеллекта, возможно, были удалены слишком поздно, поскольку другие пользователи утверждают, что скачали файлы моделей и повторно загрузили их. Алон Бохман, который ранее работал главным менеджером программы в команде машинного обучения Azure, сообщает, что «десятки разработчиков с открытым исходным кодом» разветвили, настроили и повторно загрузили удаленные после этого модели WizardLM-2. Однако неясно, представляют ли исходные или модифицированные версии какой-либо риск для пользователей.
«Если бы я был исследователем, я бы сравнил окончательную версию WizardLM-2 с этой «утекшей» версией, чтобы увидеть, насколько эффективен тест Microsoft на «токсичность», — сказал Бохман. «Что именно они подвергают цензуре?»
