Компания опубликовала спецификацию и код отдельных компонентов разрабатываемой системы FlashProve, которая должна криптографически подтверждать, какая модель сгенерировала конкретный ответ, пишет TechCrunch. Для работы системы лаборатории должны публиковать «отпечатки» моделей без раскрытия весов: это позволит поймать подмену дорогой модели на дешёвую. Внедрять её пока не планируют.
Вредонос x.cpe работал на сертифицированных Google телеприставках бренда MECOOL от шэньчжэньской Videostrong и использовал их как прокси для мошеннического трафика и накрутки рекламы, пишет Ars Technica. Производитель обходил проверку, подгружая зловред уже после активации устройств; Google разорвал с ним отношения.
В годовом отчёте Apple предупредила: ИИ-агенты способны без разрешения обращаться к системам, менять код и проводить транзакции, что может обернуться для компании исками и ударом по репутации, сообщает CNBC. Своего агента у Apple пока нет, но в октябре она объявила об изменениях полного доступа к дискам Mac для ИИ-агентов, чтобы снизить связанные с ним риски.
Исследователи Стэнфорда прогнали 50 часто цитируемых наблюдений о больших языковых моделях через 20 версий, выпущенных с июля 2024 по сентябрь 2026, пишет The Decoder. У 44% выводов эффект в значительной степени исчез, ещё 34% заметно ослабли, 16% сохранили силу, а 6% усилились. Среди 22 выводов с оценённой датой устаревания средний срок жизни — 15,7 месяца.
На Allen Telescope Array в Калифорнии агенты по командам исследователей наводят телескоп и на лету разбирают радиосигналы на платформе Nvidia Holoscan, рассказывает The Decoder. По данным Nvidia, оборудование тянет до 2,4 Тбит/с; по словам команды, недели расчётов сжимаются до часов, а пульсар в Крабовидной туманности так впервые удалось засечь в реальном времени с помощью ИИ.
Кибербез-гигант заберёт Fiddler AI за около $400 млн и Dreadnode примерно за $95 млн, пишет TechCrunch. Первый следит за поведением ИИ-агентов внутри компаний, второй тестирует модели и приложения на уязвимости до запуска. Так CrowdStrike пробует отхватить долю на рынке защиты агентов, пока политики компаний отстают от внедрения ИИ.
Как рассказал CNBC гендиректор компании по кибербезопасности Джордж Курц, функция AI Kill Switch в составе платформы Falcon Guardian позволяет службе безопасности остановить агента, не дать ему перезапуститься и отрезать от сети. Технология уже доступна клиентам.
Как пишет The Verge, гендиректор Мелани Перкинс объединяет продуктовые подразделения в одну структуру и делает Сидней основной базой для большего числа таких команд. Речь о 1271 человеке; уволенным обещают минимум полгода зарплаты и год медстраховки.
В интервью, которое опубликовал The Guardian, нобелевский лауреат Джеффри Хинтон предсказал, что уже в этом или следующем году ИИ может спровоцировать крупный инцидент: временно обрушить энергосеть или финансовую систему. По его словам, в ближайшие 10 лет станет ясно, удастся ли управлять рисками технологии.