Исследователи OpenAI считают, что достигли «прорыва» в области искусственного интеллекта
Накануне увольнения Сэма Альтмана с поста CEO OpenAI несколько исследователей компании написали письмо совету директоров, предупреждая об открытии «мощного искусственного интеллекта, который может угрожать человечеству». Об этом сообщает Reuters со ссылкой на двух источников.
Некоторые специалисты OpenAI полагают, что проект Q* (произносится как Q-Star) может стать прорывом в области так называемого общего искусственного интеллекта (AGI), то есть автономной системы, которая способна достичь потенциала человеческого мозга в широком спектре задач.
Новая модель справляется с математическими упражнениями. Считается, что сегодняшним генеративным нейромоделям хорошо удается создавать и переводить текст, статистически предсказывая следующее слово. Но способность решать математические задачи «подразумевает, что ИИ имеет более широкие возможности рассуждения, что напоминает человеческий интеллект», пишет Reuters.
Пока Q* способен решать задачи по математике уровня начальной школы в США.
По словам источника издания The Information, некоторые сотрудники обеспокоены тем, что у OpenAI нет надлежащих мер безопасности для контролируемого развития и коммерциализации подобных моделей искусственного интеллекта.
В то же время The Verge со ссылкой на своего собеседника пишет, что совет директоров OpenAI не получал никакого письма по поводу «прорыва» в ИИ.
В середине ноября Сэм Альтман подтвердил, что компания работает над GPT-5 - следующим поколением модели искусственного интеллекта для генерации текста.
