Виталик Бутерин назвал главную угрозу со стороны искусственного интеллекта

Сооснователь Эфириума Виталик Бутерин представил защиту от угроз искусственного интеллекта, основанную на децентрализованном блокчейне.

Бутерин опубликовал эссе, где разделил существующие сейчас мнения об ИИ на два полюса. Первый — пессимисты, предсказывающие появление к 2040 году способного выполнять любую задачу лучше человек сверхинтеллекта. Второй — скептики, которые рассматривают искусственный интеллект лишь как инструмент, автоматизирующий исполнение сложных задач.

Бутерин отказался поддерживать обе точки зрения. Программист считает, что угроза ИИ заключается не в развивающемся интеллекте машин, а в том, кто их контролирует. По его мнению, главная опасность в способности корпораций или правительств получить односторонний контроль над ИИ. Власти многих стран выступают против открытого исходного кода, поддерживая при этом «глобальное господство» со стороны крупных компаний — в нормальном мире это должно вызывать тревогу у всех политиков, написал разработчик.

Чтобы противостоять централизации, Бутерин предложить создавать модели ИИ, которые по умолчанию имели бы открытый исходный код, предотвращая монополию корпораций вроде Google или Meta. Важные решения, касающиеся разработки и использования ИИ, должны приниматься сообществом путем голосования через децентрализованные автономные организации (DAO), настаивает сооснователь Эфириума. Автоматизированные и защищенные от несанкционированного доступа «кнопки паузы» в сети могли бы останавливать опасные процессы обучения ИИ, не полагаясь на единые централизованные органы управления, объяснил он.

Бутерин упомянул концепцию «взаимного гарантированного уничтожения вычислительных ресурсов» — коллективную стратегию, позволяющую нескольким участникам сообща замедлять вычислительные ресурсы при достижении опасных пороговых значений. Это кардинально отличается от метода, когда избранная группа контролирует все сама и лишает прав других участников.

«Если бы я был Илоном Маском, я бы перестроил Твиттер, превратив в платформу для взаимовыгодных сделок, чтобы мы могли обойти власти крупных стран, гендиректоров крупных компаний и интеллектуалов из крупных некоммерческих организаций — чтобы как можно больше людей могли дискутировать. Возможно, это лучшее, что соцсети могли бы сделать для человечества, стоит только захотеть», — написал Бутерин.

В июне сооснователь Эфириума запустил эксперимент с целью выяснить: смогут ли его подписчики с помощью ИИ найти в интернете его собственный, но анонимный текст. На прошлой неделе был назван победитель эксперимента — им оказался аналитик Франклин Ван (Franklyn Wang). Он обнаружил EIP-7503, предложение по обеспечению конфиденциальности под названием Zero-Knowledge Wormholes, написанное Бутериным на китайском языке.

Источник