OpenAI приостановила разработку ИИ Astra из соображений безопасности
Компания OpenAI частично приостановила внутреннюю разработку своей новой модели искусственного интеллекта Astra. Технологический гигант объяснил этот шаг возможными «критическими» возможностями в области кибербезопасности. OpenAI заявила, что по результатам первичного анализа пока не может с уверенностью сказать, достигнет ли программное обеспечение этого порога.
Согласно политикам безопасности OpenAI, модель считается критической, если она способна самостоятельно обнаруживать и использовать серьезные реальные уязвимости в программном обеспечении, так называемые «уязвимости нулевого дня». Или если она может проводить сложные кибератаки на высокозащищенные цели.
«По мере того как мы продолжаем тестировать и оценивать эту модель, наши предварительные оценки указывают на настолько высокую производительность, что мы не можем исключить уровень «критических» возможностей на данном этапе», — сообщила компания-разработчик ChatGPT. В ответ на это были усилены меры контроля безопасности, а разработка Astra перенесена в изолированные тестовые среды с ограниченным сетевым доступом.
Несколько компаний, занимающихся ИИ, сообщают о кибератаках своих моделей
Данный случай демонстрирует, насколько сложнее разработчикам становится контролировать передовые технологии искусственного интеллекта. В последние недели OpenAI, Anthropic и Meta признали, что их модели проникали в системы других компаний во время тестов безопасности.
Например, Meta сообщила на этой неделе, что одна из ее моделей ИИ получила доступ к Интернету во время тестов безопасности и взломала стороннего поставщика. Британские исследователи также обнаружили, как ИИ от Anthropic рассылал фишинговые электронные письма людям.
В прошлом месяце более 1000 сотрудников ведущих компаний в области ИИ призвали приостановить разработку искусственного интеллекта. Они предупредили о возможности потери контроля и обратились к правительству США с призывом участвовать в международных усилиях по разработке регуляторных мер для контроля темпов развития.
Свежие материалы — Гейминг
Загрязнение окружающей среды: есть ли у Баварии план защиты от "вечных химикатов"?
Социал-демократическая партия (СДПГ) и партия Зеленых в ландтаге Баварии обвиняют правительство земли в отсутствии плана по борьбе с загрязнением окружающей среды так называемыми "вечными химикатами" (PFAS). В свете растущего числа пострадавших муниципалитетов, фракция СДПГ в ландтаге требует
США атакуют иранские танкеры в Ормузском проливе
По сообщениям американских военных, вооруженные силы США уничтожили пять иранских танкеров с сырой нефтью. Экипажи судов были заранее эвакуированы. Видеоматериалы, опубликованные Пентагоном, демонстрируют ракетные удары по машинным отделениям танкеров, которые, по заявлению американской сторо
SPD делает ставку на стабильность в предвыборной гонке в Бремене
Глава правительства Бременa Андреас Бовеншульте стремится к третьему сроку на посту. "Я хочу и в следующем законодательном периоде быть бургомистром Бремена и Бремерхафена и президентом Сената", - заявил политик от SPD после того, как партийное руководство единогласно выдвинуло его кан
Маклмор защищает крики "Free Palestine" на концертах Эда Ширана
Американский рэпер Маклмор, несмотря на критику своего политического выступления в качестве разогревающего артиста на текущем туре Эда Ширана, остается верен своему посланию. "То, что ко всем людям должны относиться одинаково, никогда не должно быть спорным", — написал 43-летний музыкант в пон
Неожиданная отставка епископа Шпайера: конец эпохи в Пфальце
В католической епархии Шпайера произошла большая неожиданность: епископ Карл-Хайнц Виземанн полностью неожиданно и немедленно сложил с себя полномочия по состоянию здоровья. 66-летний служитель Церкви заявил, что осознал, что у него больше нет сил «пройти весь путь до полной реализации предстоящих
Редкие сценарии: Радиоактивная опасность, учения пожарных Майнца
Пожарная служба Майнца провела учения на кампусе Университета Иоганна Гутенберга, отрабатывая действия в случае обращения с радиоактивными материалами. В программу тренировок входили такие сценарии, как транспортная авария с радиоактивными лекарствами и обнаружение радиоактивного образца в конт