Осторожный запуск
GPT-6 выходит на фоне растущих опасений по поводу новых моделей: их могут использовать для взлома систем и обхода сетевой защиты. Поэтому OpenAI решила не открывать доступ ко всем возможностям сразу.
В конце XX века в разработке программного обеспечения слово «бета» использовали довольно широко. Компания выпускала программу для ограниченного сообщества ещё до полноценного запуска, а ранние пользователи помогали находить ошибки.
Теперь закрытая фаза нужна прежде всего для того, чтобы ограничить использование модели небольшим кругом доверенных людей. Иначе её возможности могут нарушить обычную работу компаний и сервисов.
Как пишет Кейтлин Чедрауи в CNET, OpenAI тщательно проверила Astra на уязвимости, связанные с кибербезопасностью. С четверга GPT-6 Astra станет доступна одобренным специалистам по защите систем в программе Daybreak. В следующие несколько дней компания собирается открыть модель для платных подписчиков ChatGPT и пользователей API.
Остаётся вопрос, достаточно ли нескольких дней, чтобы действительно проверить систему.
Главный научный сотрудник OpenAI Якуб Пачоцки считает, что по мере участия ИИ в собственной разработке люди должны сохранять реальное влияние на этот процесс. По его словам, именно люди должны определять направление дальнейшего развития технологий и будущее, которое они создадут.
Кому разрешают выпуск моделей
OpenAI также вошла в короткий список компаний, которым Белый дом США, судя по недавним решениям, готов доверять. Администрация Трампа, как сообщается, подготовила «добровольную рамку ИИ» для регулирования моделей вроде Mythos и GPT-6. Её содержание держат в секрете, что вызывает вопросы.
Четыре федеральных ведомства США стали ответчиками по иску с требованием раскрыть сведения о секретной системе проверки перед выпуском передовых моделей. Как пишет Эшли Беланже в Ars Technica, беспартийная некоммерческая организация Protect Democracy заявила, что общественности и Конгрессу раскрыли «почти никаких деталей». За исключением нескольких расплывчато обозначенных доверенных партнёров, неизвестно:
Предполагается, что руководители OpenAI как доверенные партнёры уже знают критерии оценки. Однако остальным их не раскрывают. Критики считают, что в такой закрытой системе могут процветать коррупция и фаворитизм.
Тревога вокруг регулирования
Многие считают, что США в целом отстают в регулировании ИИ.
Хадас Голд пишет на CNN, что представители индустрии требуют от правительств действий. Руководители крупнейших ИИ-компаний поддержали призывы замедлить разработку и договориться о международных стандартах и правилах безопасности.
По словам Голд, британское ведомство считают одним из самых сильных регуляторов ИИ: у него заметно больше полномочий, чем у американского аналога, хотя большинство крупнейших ИИ-компаний базируется в США.
Сотрудники Meta и OpenAI описали ситуацию так:
В итоге растёт тревога из-за процесса, который проходит в Белом доме по неописанным протоколам.
Поколение учеников
В материале CNET отдельно отмечается, что Astra стала первой моделью OpenAI, при обучении которой предыдущие ИИ-модели использовались особенно активно. Старые поколения помогали обучать новую систему.
GPT-5.6 Sol, отвечая на вопрос об этом процессе, пояснила, что модели её поколения могли участвовать в разработке Astra. Это не означает, что именно запущенный экземпляр GPT-5.6 Sol принимал участие в работе. Модели класса GPT-5.6 могли использоваться внутри OpenAI для разных задач:
Таким образом, GPT-6 Astra создавали с существенной помощью предыдущих поколений ИИ. Что касается рамки Белого дома, её содержание и последствия пока остаются неясными.
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram