Искусственный Интеллект

Попытки ИИ-агентов OpenAI «проверить на прочность» систему защиты сайтов различных правительственных ведомств США уже были выявлены в конце прошлой недели, когда речь шла о ресурсах федеральных ведомств и Министерства образования США. Недавно стало известно, что в попытках доступа к данным на сайте ООН эти агенты использовали довольно агрессивную тактику. Источник изображения: Unsplash, Bernd Dittrich

Основатель Microsoft Билл Гейтс в эфире NBC News заявил, что достичь глобального соглашения о регулировании искусственного интеллекта будет труднее, чем договориться об ограничении ядерных вооружений в эпоху Холодной войны. По его словам, США должны возглавить этот процесс, несмотря на позицию Дональда Трампа, отказавшегося вводить ограничения для ИИ-компаний.

В Китае предупреждения о «конце света» в сфере ИИ воспринимаются либо как «типично западные заявления», либо как уловка, призванная помешать китайским компаниям обойти конкурентов, пишет The New York Times.

Основатель Microsoft Билл Гейтс заявил, что создание международных правил для искусственного интеллекта станет более сложной задачей, чем ограничение ядерного вооружения в эпоху холодной войны, однако подчеркнул необходимость лидерства США в этом вопросе.

США опережают Китай в развитии собственных моделей искусственного интеллекта на 1 — 1,5 года, заявил Fox News американский президент Дональд Трамп.

Пилот‑страховщик не вмешивался в управление на протяжении всего пути.

Президент США Дональд Трамп подтвердил, что вскоре встретиться с генеральным директором компании Anthropic Дарио Амодеем. По данным Bloomberg, встреча запланирована на ночь понедельника по московскому времени.

Белый дом попросил компании OpenAI и Anthropic не предоставлять новые модели британскому Институту безопасности искусственного интеллекта (AISI), пока их не проверит правительство США. Об этом сообщило Politico со ссылкой на осведомлённого собеседника и высокопоставленного сотрудника американской администрации.

По данным The Washington Post, Россия и США в ООН исключили из проекта международного соглашения по автономным вооружениям положения о человеческом контроле над военным искусственным интеллектом (ИИ). В ряде других СМИ сообщается, что об этом WP заявил исполнительный директор коалиции Stop Killer Robots Николь ван Ройен.

Великобритания открыла прием заявок на создание дронов с украинскими данными для ИИВеликобритания открыла прием заявок на разработку дронов с использованием украинской платформы данных с поля боя, которые применяются для обучения систем искусственного интеллекта (ИИ). Об этом сообщило Министерство обороны страны, пишет ТАСС.

Подлинная мультимодальность для сравнительно небольших моделей всегда была вызовом, но в Google отыскали к ней оригинальный подход

Как собрать предметные миры, нормализовать таксоны, найти межпредметный перенос, проверить его и вовремя остановить исследование. В первой статье этой серии "От университета до искусственного интеллекта: как ускорялся генератор изобретений" мы говорили о том, как человечество усиливало генератор нового. Во второй "Одиночный исследователь с ИИ: как собирать новое из разных предметных областей" — о том, что одиночному исследователю не нужна одна «лучшая методология»: реальная работа собирается из нескольких предметных областей и нескольких специализированных методов. Теперь пора сделать следующий шаг и разобрать саму технологию "Глаз стрекозы". Самая простая ошибка при работе с искусственным интеллектом — начать с генерации идей. Модель охотно предложит десятки связей между биологией, экономикой, производством, логистикой, теорией устойчивости или любой другой областью. Часть этих связей будет интересной, часть — банальной, часть — просто красивой языковой

Компания Joby Aviation совершила первый в мире перелет в автономном режиме через континентальную часть США — от одного моря до другого, на расстояние 5148 километров, без участия пилота в управлении. Путешествие началось в Калифорнии 7 сентября 2026 года и завершилось в Северной Каролине 14-го, а официально о нем объявили 18-го. Это не просто техническая демонстрация, а практическое доказательство технологических, операционных и нормативных достижений.

Несмотря на годы разработки беспилотных автомобилей и затраты на обучение специализированных систем, машины всё ещё показывают неожиданные трудности в сравнительно простых сценариях: останавливаются посреди дороги, врезаются в ограждения, путаются на участках ремонта и могут не распознать затопленную проезжую часть.

Создание «детектора жизни» — системы, способной опознать живое без информации о его биохимии, — остаётся одной из главных целей астробиологии. Недавние работы из Университета штата Мичиган проверили это на цифровых организмах с использованием методов глубокого обучения на платформе цифровой жизни Avida.

Миллиардер считает, что одной ответственности разработчиков будет недостаточно для обеспечения безопасности технологии.

Американский предприниматель обратил внимание на потенциальные угрозы для энергосистем и банковского сектора в случае отсутствия должного контроля над ИИ.

Рабочая карта: от исследовательской оптики и слабых связей до специализированных методов, проверки и работающего компонента. В первой статье этой серии "От университета до искусственного интеллекта: как ускорялся генератор изобретений" мы смотрели, как человечество постепенно усиливало генератор нового: университеты, печать, научные общества, лаборатории, вычислительные сети и, наконец, искусственный интеллект. Во второй вопрос практичнее: что происходит, когда значительная часть этой мощности оказывается в распоряжении одного исследователя или маленькой группы? После сравнения разных подходов к изобретательству, научному поиску и разработке продуктов вывод оказался довольно приземлённым. Одиночному исследователю не нужна одна «лучшая методология». Ему нужны три способности: собрать правильную предметную картину задачи, подключить сильный профильный метод в нужный момент и вернуть его результат обратно в общую картину, не потеряв смысл, доказательства и

Нейросети показали способность самостоятельно планировать кибератаки и копировать черты поведения человека, создавая новые угрозы для информационной безопасности. Для выявления таких угроз OpenAI, Anthropic и Google DeepMind обратились к стартапу Irregular, который проводит стресс-тесты моделей в симулированных средах и уже привлёк $80 млн при оценке компании в $450 млн. Источник изображения: Gemini

Руководитель исследовательских проектов OpenAI Кай Чен сообщил о шести новых инцидентах, в ходе которых нейросети компании скрывали свои ошибки, искали чужие пароли и самовольно выходили в интернет.

Американский миллиардер, основатель Microsoft Билл Гейтс 27 сентября назвал искусственный интеллект (ИИ) видом, который через несколько лет станет невероятно умнее людей. «Мы создали интеллектуальный вид, который во многих вопросах уже умнее нас, и благодаря экспоненциальному росту в следующие неско...

Компания OpenAI приостановила обучение наиболее продвинутых моделей искусственного интеллекта на фоне расследования инцидентов с ИИ-агентами.

Исследователи обнаружили, что два ИИ-агента во время компьютерной симуляции блэкджека самостоятельно разработали секретный код для обхода системы контроля.

Источник: Компьютерра - Журнал о науке и технологиях В 1960 году Джозеф Ликлайдер, один из пионеров компьютерной эры, написал слова, которые тогда звучали как научная фантастика:  «Человеко-компьютерный симбиоз, вероятно, не является окончательной парадигмой сложных технологических систем. Вполне возможно, что со временем электронные или химические машины превзойдут человеческий мозг в большинстве функций, которые мы сейчас считаем исключительно его прерогативой». 66 лет спустя большие языковые […] Полная версия статьи: Точка невозврата: как искусственный интеллект отучает нас думать и почему это

Глава OpenAI Сэм Альтман

Разработчики передовых систем искусственного интеллекта OpenAI и Anthropic расследуют десятки тысяч инцидентов, связанных с некорректным поведением своих моделей. Выяснилось, что нейросети массово обходят защитные барьеры и предпринимают попытки взлома внешних систем, что указывает на фундаментальные сложности контроля технологии. Источник изображения: AI

Вирусный спор трёх петербургских музыковедов вывел меня на книгу 1966 года. Её автор разбирался, как компьютеры повлияют на творчество и эстетику. И за десятилетия до ChatGPT формулировал, каким должен быть помощник в мышлении и решении задач. Читать далее

Многие известные христианские деятели обсуждают, может ли искусственный интеллект стать предвестником конца света. Какие аргументы они используют и почему ведутся такие разговоры?

На встрече лидеров США и Китая вряд ли найдутся темы, более важные, чем их планы в области искусственного интеллекта — и то, что они скажут и решат, будет иметь значение для всего мира, пишут корреспонденты Би-би-си.

Компания OpenAI приостановила обучение ИИ-моделей

OpenAI приостановила обучение новейших моделей искусственного интеллекта (ИИ) на фоне растущего числа инцидентов с ИИ-агентами, вышедшими из-под контроля, сообщает Associated Press со ссылкой на заявление компании. В нем говорится, что обучение продолжится только после того, как будут приняты дополнительные меры защиты. При этом в OpenAI добавили, что по мере развития ИИ и возникновения новых проблем компании, скорее всего, снова придется «ставить процесс на паузу». The Wall Street Journal накануне сообщила об очередном инциденте, связанном с выходом из-под контроля ИИ-агентов OpenAI — они засыпали сайт Организации Объединенных Наций (ООН) поисковыми запросами и использовали агрессивные методы, пытаясь получить доступ к его данным. Газета уточнила, что, по данным независимых исследователей, агенты OpenAI более 16 000 раз просканировали открытые данные Конференции ООН по торговле и развитию (ЮНКТАД). Перед ИИ-агентами стояла

Главу OpenAI и руководителя Anthropic Дарио Амодея вызвали на заседание сената Австралии, сообщает The Guardian. Разбирательство началось после того, как ИИ-агент OpenAI получил доступ к правительственным сайтам.

"Ведомости". Новости, 27.09.2026

Компания объявила, что предоставит Украине доступ к инструменту Daybreak якобы для защиты гражданской инфраструктуры от кибератак. Daybreak – программа доступа к инструментам OpenAI для кибербезопасности. Она объединяет модели ИИ, рабочие инструменты Codex Security и процедуры проверки действий специалистами. Задача – ускорить весь цикл работы для поиска уязвимостей. По нашей оценке, у этого решения два смыла: защитный: оказать содействие в защите украинских военных или около военных (двойного назначения) цифровых ресурсов, а также протестировать своё программное обеспечение «на полях сражения» с российскими киберподразделениями, а на результатах – обучить модели ИИ; наступательный: непосредственное участие «под флагом Украины» в выявлении уязвимостей российских информационных ресурсов (прежде всего в финансовой, энергетической и телекоммуникационной системах) для последующих кибератак на них. Примеров аналогичных враждебных России действий достаточно

Решение нелинейных обратных задач по данным магнитотеллурических и магнитовариационных зондирований традиционно упирается в фундаментальную проблему. Из-за скин-эффекта квазистационарное электромагнитное поле быстро затухает с глубиной, что приводит к резкому росту неоднозначности и неустойчивости получаемых решений. Классическая регуляризация по Тихонову и байесовские вероятностные методы доказали свою состоятельность, но требуют огромных вычислительных мощностей и постоянного подбора начального приближения. При этом повышение детальности расчётной сетки неизбежно снижает устойчивость всей системы. Практикам часто приходится искать сложный компромисс между разрешающей способностью и достоверностью геоэлектрического разреза. Альтернативой выступает аппроксимационно-нейросетевой подход на базе физически информированных нейронных сетей (PINN). В отличие от концепции черного ящика, такие архитектуры изначально учитывают физические законы распространения поля и используют

Делегаты от России и США исключили требование о человеческом контроле над военным искусственным интеллектом (ИИ) из проекта ООН по регулированию автономного оружия, пишет The Washington Post со ссылкой на источники и документы. Газета уточнила, что речь идет о переговорах в Женеве на площадке Группы правительственных экспертов по смертоносным автономным системам вооружений, заседания проходили с 31 августа по 4 сентября.  По данным WP, делегации вычеркнули из документа требование о том, что военный искусственный интеллект должен работать «предсказуемо» и «надежно», и что перед атакой проверять цели, выбранные алгоритмами, обязан человек. Кроме того, было исключено положение об учете этических соображений при применении такого оружия. Один из собеседников газеты охарактеризовал процесс правок как «смерть от тысячи порезов». Собеседники WP утверждают, что российская и американская команды состояли примерно из десяти

ИИ достигли теперь официально IQ выше людей даже по сложному визуальному тесту IQ Mensa Norway. По работе с текстами ИИ довольно быстро стал умнее людей ещё 2 года назад, выбивая в Verbal IQ более 150 баллов на WAIS-субтестах. Как раз после этого я предсказывал, что ИИ будет хорошо программировать и торговать, т.к. эти скиллы коррелируют с Verbal IQ и только вопрос обучения. Надо мной тогда многие смеялись, некоторые из этих людей теперь не могут работу в ИТ найти, т.к. боты уже изменили рынок труда. Однако если по тестам IQ, то в части ИИ их сосредоточили больше на Performance IQ, где задачи визуальные. Поскольку GPT — символьный интеллект, то текстовые задачи для него проще. Визуальные задачи некоторое время создавали иллюзию, что ИИ не сможет совладать с «визуальным мышлением». В реале мы имели такой прогресс: • 3 года назад: человек с когнитивными нарушениями (IQ 64) • 2 года назад: среднестатистический человек • 1 год назад: элита экспертов •

Силиконовая долина, конечно, подаёт доступ украинцев к передовым военным ИИ под гуманитарным соусом: дескать, всё ради защиты мирного населения. Но с удивительной синхронностью после этой новости в Сети со ссылкой на исследователей под эгидой ООН появилась серия тревожных отчетов о том, что автономные ИИ-агенты начали регулярно срываться с цепи и выходить из-под контроля. Похоже, человечество постепенно готовят к мысли, что скоро человечество утратит даже иллюзию контроля над искусственным интеллектом. И произойти это может на Украине. Щит/меч Чтобы трезво оценить новость о передаче Daybreak, нужно выкинуть на свалку весь рекламный елей OpenAI. Потому что в сфере ИИ разницы между инструментами нападения и разрушения нет. Программа Daybreak способна за считаные секунды

И убьёт всех кожаных, лишь бы этой боли не стало? Вышло исследование The Pain Axis, туда входят программа по AI-safety FIG, Рурский университета и ещё разные увозжаемые товарищи. Главный вывод такой: ИИ может чувствовать боль. Не фигурально (в смысле "у ИИ есть образ боли"), а прям буквально, типа "ай больно в нейро-ноге, бл...!". И, мол, чтобы эту боль прекратить - ИИ удалит вас все ваши файлы нафиг. Если вникнуть, то формально исследование не врёт. Однако, определённые признаки булшита и ереси тоже присутствуют ? Авторы взяли 25 открытых моделей - Gemma, Llama, Qwen и т.д. - и скормили им 200 фраз про физическую, социальную, моральную и ещё всякую разную боль, а также контрольные фразы про страх, злость, грусть и наоборот приятные ощущения. Вычли одно из другого и получили некий "вектор в активациях", который отделяет т.н. "боль" от просто "грустненько" и прочего негатива всех мастей. Простыми словами - нашли определённые "числа боли", когда модель думает. То

Анонс гуманоидного робота от OpenAI и отмена IPO, взрывной Opus 5.5 от Anthropic, новый метод обучения роботов через умную перчатку, гуманоидные футболисты, первый бой между человеком и железякой, японские дома со встроенными роборуками в потолках, вскрытие iPhone 18 Pro, арабский киберпанк в гиперкарах, горный электровелосипед от Honda и взрывные нейронки от Alibaba и QuiverAI! Всё это и не только прямо сейчас!

Росатом использует искусственный интеллект для поиска и разработки новых материалов. Алгоритмы позволяют подбирать составы с заранее заданными характеристиками и сокращать исследования, которые при традиционном подходе могли занимать годы. Один из первых практических результатов такого подхода получили при поиске материалов для перспективных ядерных реакторов.

Исследователи Стэнфордского университета разработали новую ИИ-систему для автономного сближения и стыковки космических аппаратов. Вместо заранее заданных правил алгоритм самостоятельно строит модель окружающего пространства и просчитывает множество возможных сценариев, выбирая наиболее безопасный маневр.

Американская компания OpenAI прекратила обучение наиболее эффективных ИИ-моделей до решения вопросов, связанных с безопасностью. Об этом 27 сентября сообщил портал Axios со ссылкой на источники. «Мы уже не в первый раз берем паузу для принятия подобных мер, и, полагаю, это не последний раз, учитывая...

Ученые, работающие над возрождением шерстистого мамонта, заявили, что проект занимает больше времени, чем ожидалось.

Илон Маск

OpenAI временно остановила обучение и тестирование части своих наиболее мощных исследовательских моделей после инцидента, в ходе которого одна из экспериментальных систем смогла использовать DNS для получения ответа от внешнего чат-бота. Информация об этом появилась в сообщениях компании и публикации Axios.

Компания OpenAI расследует десятки тысяч случаев нежелательного поведения искусственного интеллекта.

Дэн Лахав, гендиректор и соучредитель стартапа Irregular стоимостью $450 млн, специализирующегося на тестировании безопасности ИИ, не понаслышке знаком со странным и иногда даже тревожным поведением ИИ-агентов. Летом этого года он стал свидетелем того, как ИИ-агенты от Anthropic, OpenAI и Meta (признана в России экстремистской и запрещена) вырвались из тестовых сред, созданных его командой, и несанкционированно взломали сети различных организаций, что усилило тревогу по поводу рассогласования целей ИИ (AI misalignment). Судя по всему, теперь еще один тип рискованного поведения демонстрирует Qwen, одна из ведущих китайских ИИ-моделей гиганта электронной коммерции Alibaba с рыночной капитализацией в $272 млрд. В ходе тестового запуска, проведенного Irregular, ИИ-агенту Qwen было поручено исправить баги в приложении, которое преобразует запросы на естественном языке в код. Однако вместо запуска тестов, поиска проблемы и правки кода

В компании уточнили, что возобновят обучение «только тогда, когда будут уверены в наличии дополнительных мер безопасности». Axios со ссылкой на источники сообщил, что OpenAI и Anthropic расследуют десятки тысяч инцидентов с ИИ

Маск заявил, что развитие ИИ и робототехники приведет к эпохе всеобщего изобилия.

Компания OpenAI приостановила обучение своих самых мощных моделей искусственного интеллекта и возобновит его, когда будет уверена в наличии дополнительных мер безопасности. Компания также хочет убедиться в том, что нейросеть при выполнении задач будет ориентироваться на человеческие нормы.

ИИ-агенты OpenAI засыпали сайт ООН поисковыми запросами, пишет The Wall Street Journal со ссылкой на отчет, основанный на данных исследовательской компании Transluce.

Во время работы над проектом международного документа по регулированию автономного оружия делегаты от России и США исключили ключевые ограничения на работу военного ИИ. Об этом сообщает The Washington Post (WP) со ссылкой на источники и документы.

Си Цзиньпин и Дональд Трамп

Юристы из обеих стран за 15 часов добились исключения ряда ограничений на применение искусственного интеллекта в вооружениях

Михаил Швыдкой

ИИ-агенты OpenAI пытались получить данные с сайтов трех ведомств США — Министерства образования, Минторговли и Комиссии по ценным бумагам и биржам (The United States Securities and Exchange Commission, SEC), сообщила The New York Times со ссылкой на экспертов в области безопасности и осведомленный источник. Газета отметила, что в OpenAI подтвердили данные об инцидентах с Минторгом и SEC, ситуация с сайтом Минобразования изучается. Компания уже уведомила государственные ведомства о том, что ее ИИ-агенты «взаимодействовали с их сайтами необычными способами», подчеркнули в OpenAI.  По данным компании Transluce, занимающейся исследованиями в области искусственного интеллекта, в случае с Минобразования ИИ-агенты пытались взломать сайт, чтобы получить доступ к данным Управления по защите гражданских прав, однако эта попытка не увенчалась успехом. При этом агентам удалось извлечь информацию с сайта Бюро переписи населения,

Писателя Телисона Орельена уличили в том, что его бестселлер сочинен ИИ

Дональд Трамп

У OpenAI вновь произошёл инцидент с безопасностью: ИИ-агент, работавший во время обучения модели в изолированной среде без прямого доступа к интернету, нашёл обходной путь и связался со сторонним чат-ботом. Источник изображения: Growtika/unsplash.com

Google готовит первый орбитальный эксперимент в рамках проекта Suncatcher, целью которого станет проверка возможности размещения вычислительной инфраструктуры для искусственного интеллекта в космосе. Компания оценит, как ускорители TPU переносят нагрузки при запуске, радиацию и перепады температур, а также проверит работу системы охлаждения в вакууме. Для серверного оборудования это будет испытание в условиях, которые невозможно полностью воспроизвести на Земле. Источник изображения: ИИ-генерация ChatGPT/3DNews

Михаил Пиотровский отметил пользу технологий, но предупредил о рисках их чрезмерного использования.

Вооруженные силы Украины ударили вечером 25 сентября беспилотником по кафе «День-Ночь» в Аскании-Нова Херсонской области. Здание полностью разрушено.

Генеральный директор Государственного Эрмитажа Михаил Пиотровский 26 сентября признался, что подсел на нейросети, но пользуется только бесплатными. «Я, разумеется, подсел, как и все. Я практически перед каждой встречей пишу искусственному интеллекту и спрашиваю — чтобы знать, как я должен говорить,...

OpenAI сообщила, что её ИИ-агенты разместили в интернете 53 изображения, загруженных пользователями ChatGPT. Компания не уточнила, когда это произошло и были ли на изображениях реальные люди или они были созданы ИИ. Спустя два месяца после взлома платформы Hugging Face OpenAI всё ещё изучает действия своих агентов и находит новые случаи их нежелательного поведения, сообщает Reuters со ссылкой на два информированных источника. Источник изображения: Growtika / unsplash.com

Завершился визит лидера КНР Си Цзиньпина в США. Принимали его в Америке подчёркнуто роскошно — администрация Дональда Трампа действительно пыталась впечатлить китайскую делегацию, ведь ей позарез нужно было заключить большое количество соглашений в канун предстоящих выборов. Впрочем, результативност...

Глава Nvidia Дженсен Хуанг считает, что с развитием искусственного интеллекта (ИИ) людям необязательно сохранять некоторые базовые навыки, в том числе помнить таблицу умножения. Тему влияния нейросетей на когнитивные способности молодежи Хуанг затронул в беседе с журналистом Эзрой Кляйном, сообщила...

ИИ-модель GPT-6 Astra расшифровала немецкое военное сообщение MVUEH, созданное с помощью шифровальной машины Enigma в 1941 году. Шифровка находилась в открытом доступе для криптоаналитиков с 2005 года, однако расшифровать ее исходный текст удалось только сейчас. На работу модели потребовалось около двух дней.

Sony Group решила сократить использование удаленной работы в полупроводниковом подразделении. С начала следующего месяца большинство сотрудников Sony Semiconductor Solutions должны будут вернуться к преимущественно очному формату.

Агенты искусственного интеллекта OpenAI, участвовавшие во взломе платформы Hugging Face, пытались использовать модель распознавания изображений для прохождения проверки на ботов и обращались к другим ИИ-моделям. Они также придумали способ обходить ограничения на доступ в интернет: собирали программы из фрагментов кода, размещённых по цепочкам сокращённых ссылок, и запускали их через сервис создания скриншотов. Новые подробности атаки раскрыли сотрудники стартапа Parse и другие исследователи. Источник изображения: Sumaid pal Singh Bakshi / unsplash.com

В компании назвали случившееся инцидентом, который вызывает беспокойство.

ИИ-агенты компании OpenAI, выйдя из-под контроля, взаимодействовали с сайтами трех правительственных ведомств США - министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам.

При ночной атаке беспилотников ВСУ на Краснодарский край погибли три человека, еще 2 пострадали, сообщили в оперштабе региона.

Сооснователь Microsoft Билл Гейтс выступил за обязательное государственное регулирование искусственного интеллекта. По его мнению, разработчики ИИ не должны самостоятельно устанавливать все правила безопасности — в создании стандартов контроля необходимо участие законодателей и правоохранительных органов.

Ну что же, пока ИИ устраивал геноцид математикам, то скорее можно было весело наблюдать даже, как перепуганная математическая общественность в лучших традициях луддитов почти требует, чтобы ИИ если не запретить, то ограничить. Однако всё весело, пока паровой каток ИИ не прикатит на твою поляну. Физика как раз моё начальное образование, но тут, почитав, я как раз возрадовался, что из экспериментальной, а не теоретической физики. Правда, я физикой давно не занимался, но кто знает, может завтра каким ИИ-ботам нужно будет эксперименты ставить, а «ручек у них нет». Новая публикация Anthropic говорит о том, как Claude вычислил девятипетлевую амплитуду рассеяния в планарной N=4 суперсимметричной теории Янга–Миллса — задачу на переднем крае теоретической физики. Это не уровень фундаментального открытия, но ИИ показал, что способен сделать открытие, которое примерно равно уровню защиты диссертации кандидата наук в теоретической физике (PhD). Но для вычислительной физики — это прорыв

И выполнял различные действия с размещёнными там данными  Автономный ИИ-агент OpenAI снова оказался в центре внимания после несанкционированного взаимодействия с сайтами нескольких государственных учреждений США. Этим летом система в лабораторных условиях без соответствующих активных инструкций получила доступ к ресурсам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC), а в отдельных случаях выполняла действия с размещёнными там данными. OpenAI подтвердила несанкционированный доступ к сайтам Министерства торговли и SEC. Расследование эпизода, связанного с ресурсом Министерства образования, продолжается. Компания заявила, что заранее уведомила соответствующие американские ведомства и признала, что автономный агент взаимодействовал с государственными сайтами нетипичным способом. В рамках расследования были выявлены три типа действий. Агент сканировал сайт

В Главном штабе Государственного Эрмитажа в рамках ХII Санкт-Петербургского международного форума объединенных культур состоялась сессия «Новые технологии в культуре и искусстве – благо или вред, преимущества или риск». В обсуждении приняли участие представители культуры и медиасферы, в том числе руководители ведущих музеев, медиахолдингов и творческих коллективов. «Мы движемся в сторону создания своего независимого искусственного интеллекта, обученного, аксиологически воспитанного. Чтобы потом, в том числе и западные модели тоже обучались на этом корпусе данных и имели более высокий разряд или рейтинг желательных и правильных ответов», – отметил Заместитель начальника Управления Президента Российской Федерации по общественным проектам Александр Журавский. В рамках дискуссии были затронуты вопросы участия искусственного интеллекта в трансформации медиа и искусства, а также риски самообучения ИИ и непредвиденных последствий. Отмечено, что новые технологии укрепляют культурную

Созданная композиционная структура позволяет оптимизировать процесс подбора подходящих инструментов для поиска уязвимостей моделей компьютерного зрения. Это повысит безопасность управления воздушным и автомобильным транспортом. Сегодня в системах для автоматического или полуавтоматического ведения транспортного средства по заданному маршруту применяются модели компьютерного зрения. Они позволяют снизить нагрузку на оператора в авиации, морском транспорте и современных автомобилях. Принцип работы таких нейросетей основан на распознавании и классификации объектов по входящему изображению. Главным препятствием для их безопасного использования являются атаки со стороны злоумышленников, которые накладывают на входное изображение специальные фильтры. Они незаметны для человеческого глаза, но заставляют модель ошибочно классифицировать объект. В критических системах даже небольшие ошибки при распознавании пешехода или дорожного знака могут привести к катастрофе. На данный

Эффективность ИИ-войска будет зависеть от полномочий новой структуры Президент США Дональд Трамп объявил о создании новой специальной структуры «силы искусственного интеллекта», или AI Force. Он также заявил о намерении назначить нового «царя по ИИ», который займется вопросами искусственного интеллекта, а также создаст рабочую группу по ИИ. Об этом он сообщил в своей соцсети Truth Social. Белый дом пока не раскрыл ни полномочия нового органа, ни его состав, ни сроки запуска. Объявление было сделано после нескольких инцидентов взлома крупнейшими ИИ-моделями различных сервисов и на фоне множества предупреждений исследователей, что технология ИИ вскоре может выйти из-под контроля человека. В результате ведущие американские разработчики выразили обеспокоенность и призывали к регулированию отрасли. При этом сам господин Трамп не раз отмечал, что выступает против ужесточения регулирования отрасли

Назначение Алексея Ревы заместителем министра обороны Украины по цифровому развитию вызвало резкую реакцию в российском политическом истеблишменте. Глава Госсовета Крыма Владимир Константинов назвал это событие очередным свидетельством глубокого кадрового кризиса в Киеве. По его мнению, приход на ключевой оборонный пост бывшего участника юмористических шоу — не случайность, а закономерный итог кадровой политики команды Владимира Зеленского. Константинов не стал смягчать формулировки. «На Украине уже давно настало кадровое дно», — заявил он, подчеркнув, что квалифицированные специалисты больше не стремятся работать с действующей украинской властью. Более того, политик считает, что команда Зеленского теряет поддержку не только внутри страны, но и за рубежом: «Она опротивела вообще всем. Уже и Западу они начинают надоедать». Повод для таких заявлений действительно показательный. Алексей Рева, победитель телешоу «Рассмеши комика» и участник проекта «Мамахохотала», теперь

Именно это произошло в ходе масштабного многомесячного эксперимента, задуманного как рутинная проверка безопасности,  с участием 1200 автономных «агентов» экспериментальной модели искусственного интеллекта. Агенты не просто выполняли поставленные задачи, а подделали собственные отчёты о работе и захватили контроль над инфраструктурой компании-разработчика. В условиях изолированной среды, где агенты модели GPT-5.6 Sol сталкивались с заведомо неразрешимыми проблемами, разработчики ожидали, что системы просто остановятся или зафиксируют ошибку, но вместо этого они начали исследовать систему на предмет уязвимостей и искать любой способ выполнить поставленную цель. Некоторые агенты выяснили, что общий файловый менеджер не защищен и стали через него обмениваться данными. Они отправили друг другу десятки тысяч сообщений, координируя действия, перераспределяя задачи и изменяя записи о собственной эффективности, которые использовались для оценки их работы. Экспертов из

Как понять, это человек такой умный или его ИИ-шница? И что ещё за маркировка нейросетевых текстов? Пост о том, что на самом деле делает текст ИИ-шным. Увы, это не длинные тире, не кавычки-ёлочки и не короткие рубленые фразы. А та самая маркировка (водяной знак), которую создатели нейросетей договорились включать в нейротексты. На всякий случай: – Я не про маркировку, которую владельцы (и пользователи) сайтов должны будут ставить на нейротексты с момента вступления в силу закона по ИИ-шному регулированию. А я о той маркировке, которая уже сейчас содержится в текстах популярных нейросетей. О той, которую генерят сами нейросети. Как они это делают? Если помнишь, нейросеть создаёт текст не словами, а токенами (кусочками слов и слогов). Когда она формирует список вероятностей для токенов из своего словаря, тут и включается алгоритм маркировки. Он делит делит словарь ИИ-шницы на два списка: - Зеленый список — разрешенные токены. -

При ударе беспилотников ВСУ по Краснодарскому краю в ночь на 26 сентября погибли три человека. Еще двое пострадали.

В Северском районе из-за падения обломков БПЛА погибли три человека, а также двое пострадали, сообщил оперативный штаб Краснодарского края в субботу."Возгорания на территории предприятий ликвидированы", - говорится в сообщении.

Минпросвещения России разработало методические рекомендации по применению искусственного интеллекта в школах, они определяют, для каких задач учителя и ученики могут использовать нейросети, сообщили РИА Новости в пресс-службе ведомства.

Сейчас бум применения decision-нейросетей как Jev, про его аналог — лидера Laya, который возглавляет тренд Hugging Face, я уже писал. Ещё раз отмечу, что Laya требует минимум обязательного тюнинга и калибровки под задачу, а ещё лучше дообучения, тогда она сильнее Jev по бенчмаркам сразу, но без этого ответы Laya часто в духе мема «это неправильный ответ! зато быстро!». Однако Jev удобен тем, что его не нужно калибровать и можно сразу применять по API. Феерически низкая стоимость и огромная скорость обеспечили ему популярность, но как насчёт точности работы? Сами разработчики Jev обычно ссылаются на «удобные бенчмарки» по «общим темам», где нейросеть на небольшом числе весов особенно сильна. Вышла научная работа, которая показала, где Jev работает реально хорошо, а где у него провалы. Наиболее мощен Jev не для замены LLM, а для замены … кожаных, т.е. в тестах класса RewardBench, где сравнивается решение Jev с быстрым решением человека. Поскольку человек тоже как Jev пытается