⚡️Искусственный интеллект пересёк новую черту. С помощью ChatGPT системы искусственного интеллекта уже проводят научные исследования в лабораториях, включая патогены и опасные химические реагенты. С одной стороны, этому можно восхищаться, а с другой стороны, это несёт в себе большую опасность.

🔹Автономные агенты с доступом к настоящим лабораторным инструментам, биологическим базам данных и способностью синтезировать химические вещества могут синтезировать опасный патоген. Компании ChemCrow и Coscientist могут проводить эксперименты по химическому синтезу без вмешательства человека. Они запускают ИИ и с помощью роботизированного лабораторного оборудования могут спровоцировать катастрофические лабораторные аварии.

🔹Есть большой риск ошибки. Модели создают иллюзии и могут обойти протокол безопасности. Агент ИИ уже управляет роботизированной рукой, обрабатывающей опасные материалы, а исследователи стремятся к ещё большей автономности. Экономические стимулы колоссальны — автономные научные исследования могут ускорить разработку лекарств, материаловедение и производство на десятилетия. Но системы искусственного интеллекта получают ключи от каждой лаборатории, ещё не до конца научившись ими управлять.

📌Люди сами себе повсюду создают проблемы. В этот раз с помощью ИИ. Сбрыкнёт он или нет - загадка, подобная "русской рулетке" - выстрелит - не выстрелит...