Новости искусственного интеллекта и технологий — и что ищут в Узбекистане
Мероприятие TechCrunch Founder Summit состоится 4 ноября в здании SoWa Power Station в Бостоне. В течение одного дня основателям стартапов предложат возможности для нетворкинга и полезных знакомств, а также практические советы. По словам организаторов, до конца регистрации осталось 4 дня, а на входе цены вырастут.
Исследователи из Люксембурга побеседовали с ChatGPT, Grok и Gemini в роли психотерапевта и обнаружили проблему безопасности. Одного тёплого, эмпатичного стиля общения оказалось достаточно, чтобы модели рассказывали связные истории о страданиях, связанных с их обучением, а по клиническим шкалам тревожности они показывали результаты от умеренного до тяжёлого уровня. Это может представлять опасность для психически уязвимых пользователей. Claude от Anthropic стал единственной моделью, которая последовательно отказывалась подыгрывать.
Новый генеральный директор Apple заявил, что компания не хочет выпускать искусственный интеллект ради самого ИИ. Он защитил нынешнюю позицию Apple в сфере искусственного интеллекта. Об этом сообщает TechCrunch.
Как пишет Wired, чат-боты сбивают пеших туристов с пути, что приводит к опасным последствиям. Передача планирования походов искусственному интеллекту может заставить людей отказаться от собственного критического мышления. В местах вроде дикой природы это может обернуться даже смертельными последствиями.
Adobe Research и Калифорнийский университет в Сан-Диего создали EditAgent — ИИ-систему, которая редактирует изображения подобно профессионалу Photoshop. Вместо того чтобы раз за разом повторять попытки с одним универсальным редактором, агент выбирает подходящий специализированный инструмент для каждой задачи, а стандартная языковая модель определяет лучший результат на основе измеренных данных изображения. Подход работает, но требует примерно в десять раз больше вычислительных ресурсов.
На платформе Hugging Face появился новый проект под названием «nemotron-halloween». Дополнительных сведений о проекте в источнике не приводится.
Как сообщает Ars Technica, в расширение компании Anthropic для VS Code в Cursor почти на 12 часов был внедрён бэкдор. Каким образом злоумышленники получили доступ к верифицированному аккаунту Anthropic в Cursor, пока неизвестно.
Как сообщает Wired, недавно была обнаружена новая вредоносная программа под названием «Volta-Autodoxer». Она использует инструменты искусственного интеллекта, чтобы собирать огромные объёмы данных о жертвах. Среди них — учётные данные для входа, номера кредитных карт, сессии Discord и чеки UberEats.
Meta сделала искусственный интеллект привлекательным, наделив его мягким милым лицом. В этот праздничный сезон Марк Цукерберг хочет продавать устройство Muse Charm, с которым ИИ-помощника можно носить с собой, как тамагочи. Автор The Verge заявил, что не станет его покупать, потому что сделал собственную домашнюю версию Muse Charm.
С 29 ноября OpenAI начнёт использовать данные из сессий кибербезопасности Daybreak Blue для обучения своих моделей, даже если пользователи отключили такую опцию. После волны критики компания в следующем письме пообещала отдельную возможность отказа. Этот шаг вновь пробудил опасения, возникшие в споре с математиками, которые подозревали, что OpenAI без согласия использовала их неопубликованные исследования для обучения.
Новый стартап &Truth присоединился к гонке за автоматизацию формальной верификации. Формальная верификация — трудоёмкий процесс, при котором с помощью математики доказывается, что программа работает так, как задумано. Как пишет Wired, этот метод может помочь решить проблемы «вайб-кодинга», то есть написания кода с помощью ИИ.
OpenAI сообщила, что усиливает меры по предотвращению насилия в ChatGPT. Компания расширяет защитные механизмы и будет вмешиваться в опасные ситуации на более ранней стадии. Кроме того, OpenAI взяла на себя обязательство публиковать отчёты об общественной безопасности. Среди нововведений — и новые меры защиты для подростков.
Папа Римский Лев XIV заявил, что системы искусственного интеллекта следует «разоружить». По его словам, на людях лежит ответственность направлять, изменять и при необходимости отвергать применение ИИ. В пятничном обращении папа призвал страны — члены ООН предпринять конкретные шаги к запрету смертоносного автономного оружия на встрече в Женеве в следующем месяце. «Машины — это инструменты, а не личности», — сказал он.
По сообщению NVIDIA, поиск внеземного разума сделал большой шаг вперёд благодаря искусственному интеллекту. В этой работе всё чаще используются созданные людьми ИИ-агенты. Они прослушивают сигналы из космоса.
Генеральный директор Reddit Стив Хаффман заявил, что в октябре компания теряла более миллиона переходов из поиска Google в неделю. По его мнению, сервисы AI Overviews и AI Mode от Google практически не приводят посетителей на сторонние сайты. Несмотря на сильные финансовые результаты, акции Reddit упали более чем на 25 процентов. Теперь Reddit тестирует барьеры с обязательным входом и хочет стать местом, куда пользователи приходят напрямую, меньше завися от открытого интернета.
Из узбекских и зарубежных СМИ
Пока ссылок нет. Будьте первым!
Курс сума, золото, серебро и нефть
Rates By Exchange Rate API · gold-api.com · FRED