безопасность ИИ
Материалы SCQR, упоминающие тему «безопасность ИИ» — короткие сигналы, разборы и колонки в одной подборке.
MIT Tech Review сложил годовую рамку: десять тем, без которых сейчас не понять рынок ИИ
MIT Tech Review раз в год собирает короткий список того, что считает структурно важным в ИИ. Версия апреля 2026 заметно отличается от предыдущих: разговор о моделях отступает, на его место выходят инфраструктура, регулирование, экономика агентов и геополитика. Это смена этажа разговора, и по этой смене стоит ориентироваться следующие двенадцать месяцев.
Бенжио вернулся к разговору про безопасность ИИ. Без алармизма и без обещаний
Йошуа Бенжио — один из трёх «крёстных отцов» глубокого обучения — выложил серию из трёх работ. Первый текст разбирает доводы, по которым считается, что относиться к рискам ИИ серьёзно не нужно. Второй собран по модели IPCC: международный научный отчёт о безопасности продвинутых моделей. Третий описывает «осторожного научного ИИ» с математически проверяемыми границами. Серия читается как попытка вернуть в отрасль внутреннюю дисциплину — так же, как биологи сделали в Асиломаре в 1975 году.