Управление ИИ в блокчейне: построение доверия в интеллектуальных системах Web3.

До того, как искусственный интеллект начал управлять сложными системами и влиять на повседневные решения, постоянно возникал один вопрос: можем ли мы действительно доверять тому, чего не видим? По мере того, как ИИ становится умнее и автономнее, обеспечение прозрачности, этичности и подотчетности его действий приобретает все большее значение.

Вот тут-то и проявляется реальная польза блокчейна. Благодаря прозрачным и защищенным от подделки записям, блокчейн предлагает практический способ мониторинга и проверки того, как ИИ принимает решения, — без передачи контроля одному единственному органу власти. 

Это заменяет слепую веру проверяемой истиной, превращая управление ИИ из теории в нечто, что мы можем реально проверять и улучшать.

В этой статье мы рассмотрим, как блокчейн меняет подход к управлению ИИ в интеллектуальных системах Web3, обеспечивая целостность, безопасность и подотчетность для следующего поколения интеллектуальных технологий.

Читайте также: Использование искусственного интеллекта для прогнозирования цен на криптовалюты

Основные выводы

• Управление в сфере ИИ обеспечивает прозрачную, справедливую и этичную работу систем искусственного интеллекта, опираясь на глобальные рамки и национальную политику.

• Технология блокчейн повышает эффективность контроля за использованием ИИ, обеспечивая целостность данных, децентрализованное управление и прозрачные аудиторские журналы для соблюдения нормативных требований.

• Реальные примеры применения блокчейна на таких платформах, как nChain, EQTY Lab и Ocean Protocol, демонстрируют практическое использование технологии для этичного управления искусственным интеллектом.

• Ключевые проблемы интеграции блокчейна и ИИ включают масштабируемость, правовую неопределенность и этические вопросы в децентрализованных системах принятия решений.

• Будущее технологического надзора с использованием ИИ заключается в автоматизированных инструментах обеспечения соответствия требованиям, трансграничных стандартах, децентрализованной инфраструктуре и технологиях, обеспечивающих конфиденциальность.

Обоснование необходимости надзора за ИИ и нормативно-правового регулирования.

Развитие искусственного интеллекта (ИИ) дало толчок к масштабным инновациям, но также выявило серьезные пробелы в управлении. 

В период с 2010 по 2022 год общее количество публикаций об искусственном интеллекте увеличилось почти втрое, поднявшись с примерно 88 000 в 2010 году до более чем 240 000 в 2022 году , благодаря достижениям лидеров отрасли, таких как Google, Microsoft и OpenAI. Однако регулирование отставало, позволяя системам работать с минимальным контролем.

Это привело к предвзятости в реальном мире и этическим нарушениям. Например, алгоритмы распознавания лиц, используемые в США и Великобритании, продемонстрировали значительную расовую предвзятость : исследования, такие как исследование лаборатории MIT Media Lab в 2018 году, показали частоту ошибок до 34.7% для темнокожих женщин по сравнению с менее чем 1% для светлокожих мужчин. Такие различия вызвали серьезные этические опасения.

Эти опасения усилились в результате громких дел, таких как отмененный компанией Amazon инструмент подбора персонала на основе ИИ, который отдавал предпочтение кандидатам-мужчинам, или COMPAS, инструмент оценки риска совершения преступлений, который, как выяснилось, был предвзят по отношению к чернокожим обвиняемым.

Эти инциденты выявили явную необходимость в прозрачности, подотчетности и справедливости в процессе принятия решений с использованием искусственного интеллекта.

Переход к структурированным этическим рамкам для ИИ

В ответ на это глобальные институты начали разрабатывать этические руководства. Принципы ОЭСР в отношении ИИ (2019 г.) и Этические руководства ЕС по надежному ИИ (2019 г.) ввели прозрачность, человеческий контроль и подотчетность в качестве основных стандартов. 

План США по разработке «Билля о правах в сфере ИИ» (2022 г.) и Рамочная программа NIST по управлению рисками в сфере ИИ (2023 г.) упорядочили национальное управление в области ИИ.

Закон ЕС об искусственном интеллекте (2023 г.) приблизил нас к обязательному регулированию, классифицируя системы ИИ высокого риска, такие как системы прогнозирования преступности и распознавания лиц. Тем временем Китай продвинулся вперед со своей Глобальной инициативой по управлению ИИ и правилами в отношении генеративного ИИ.

Эти изменения знаменуют собой глобальный сдвиг от этических намерений к обязательным нормативным рамкам. Однако, несмотря на прогресс, доверие и целостность данных остаются серьезными проблемами. Именно здесь вступает в игру блокчейн, предлагая неизменяемые записи, децентрализованную подотчетность и проверяемую прозрачность для укрепления и обеспечения устойчивости управления ИИ в будущем.

Что такое управление искусственным интеллектом (ИИ)?

Альтернативный текст: Основы управления ИИ

Теперь, когда вы ознакомились с ранней эволюцией ИИ и растущей необходимостью контроля, важно понять основы того, что управляет этой мощной технологией.

Давайте разберемся, что означает управление ИИ. Проще говоря, управление ИИ — это рамки, политика и практика, обеспечивающие разработку, внедрение и мониторинг систем искусственного интеллекта таким образом, чтобы это соответствовало правам человека, этическим ценностям, безопасности и правовым стандартам. 

Она охватывает все аспекты, от прозрачности и подотчетности до смягчения предвзятости, защиты конфиденциальности и управления рисками.

Управление ИИ — это не единый закон или политика; это коллективные усилия, охватывающие правительства, международные организации, частные компании и исследовательские институты.

Она определяет, как принимаются решения в системах искусственного интеллекта, как проводится аудит результатов и как распределяются обязанности, — в конечном итоге, укрепляя доверие к тому, как ИИ функционирует в обществе.

Основные принципы эффективного надзора за ИИ

Следующие основные принципы составляют основу эффективного управления ИИ в рамках глобальных стандартов и передовых практик:

Прозрачность и подотчетность в моделях искусственного интеллекта

Прозрачность подразумевает обеспечение понятности, объяснимости и возможности аудита систем искусственного интеллекта. Это означает, что заинтересованные стороны, включая пользователей, разработчиков и регулирующие органы, должны иметь возможность отслеживать, как система ИИ обрабатывает входные данные, принимает решения и выдает результаты. 

Ответственность неразрывно связана с прозрачностью. Организации должны брать на себя полную ответственность за последствия использования своих моделей ИИ. Это включает в себя документирование проектных решений, источников данных и процессов обучения, а также обеспечение четкого пути для расследования и устранения проблем в случае их возникновения.

Обеспечение справедливости и снижение алгоритмической предвзятости

Системы искусственного интеллекта могут усугубить существующее неравенство, если их не разработать и не протестировать должным образом. Справедливость означает обеспечение того, чтобы модели не допускали дискриминации по признаку расы, пола, возраста или другим защищенным характеристикам.

Эффективные системы управления способствуют использованию разнообразных, репрезентативных наборов данных и тщательному тестированию на предвзятость. Такие инструменты, как AI Fairness 360 от IBM и What-If Tool от Google, помогают разработчикам оценивать и смягчать несправедливые последствия, обеспечивая равное обращение со всеми группами пользователей.

Приоритетное внимание к безопасности, защите и управлению рисками.

Модели искусственного интеллекта, особенно те, которые работают в критически важных секторах, должны быть безопасными и надежными. Это включает в себя защиту от сбоев модели, враждебных атак и непредусмотренного поведения. Безопасность также гарантирует, что системы ИИ являются надежными, стабильно работают в различных средах и включают в себя встроенные средства контроля для предотвращения вредоносных результатов.

Аудиты безопасности, протоколы реагирования на инциденты и учения по проверке систем на проникновение становятся неотъемлемой частью ответственного развития ИИ.

Уважение к конфиденциальности пользователей и защита конфиденциальных данных.

Конфиденциальность остается одной из наиболее чувствительных и регулируемых областей в управлении ИИ. Системы ИИ часто используют большие объемы персональных данных для обучения и работы. Без строгих гарантий это может привести к неправомерному использованию, утечкам данных или нарушениям прав на неприкосновенность частной жизни.

Регламент, подобный Общему регламенту по защите данных (GDPR) в ЕС, устанавливает высокие стандарты в отношении согласия, минимизации данных и прав пользователей. Такие методы, как дифференциальная конфиденциальность, федеративное обучение и анонимизация данных, являются важными инструментами для обеспечения баланса между производительностью ИИ и защитой частной жизни отдельных лиц.

Согласование ИИ с человеческими ценностями и этикой

Наконец, эффективный надзор гарантирует, что системы ИИ соответствуют более широким человеческим ценностям, таким как достоинство, автономия, справедливость и правосудие. Этот принцип способствует развитию ИИ, который улучшает благополучие человека, а не заменяет его или наносит ему вред.

Этичное проектирование ИИ подразумевает привлечение междисциплинарных команд — специалистов по этике, социологов и юристов — на ранних этапах процесса разработки. Это также означает установление четких границ для приложений, которые могут нарушать основные права человека, таких как автономное смертоносное оружие или инструменты массового наблюдения.

Роль блокчейна в ответственном управлении искусственным интеллектом

Технология блокчейн играет решающую роль в продвижении ответственного управления искусственным интеллектом, повышая прозрачность, подотчетность и контроль за счет децентрализованной инфраструктуры и систем, защищенных от несанкционированного доступа.

Ниже перечислены основные способы, которыми блокчейн способствует ответственному управлению искусственным интеллектом:

Обеспечение целостности данных ИИ и ведение журналов аудита

Эффективность систем искусственного интеллекта напрямую зависит от качества данных, на которых они обучаются. Компрометированные или непроверенные данные могут привести к созданию ошибочных моделей, предвзятым решениям или даже причинить вред. Технология блокчейн обеспечивает целостность обучающих и операционных данных, записывая каждую транзакцию, запись в набор данных и обновление модели в неизменяемый реестр. 

Это означает, что ни одна сторона не может изменить или удалить данные, не оставив следов, что значительно повышает достоверность данных и доверие к ним на протяжении всего жизненного цикла ИИ.

Например, в секторе здравоохранения такие компании, как BurstIQ, используют блокчейн для управления и проверки данных пациентов в целях диагностики с помощью ИИ. Благодаря неизменной записи данных в блокчейне, инструменты ИИ в здравоохранении могут обучаться на проверенных высококачественных наборах данных, минимизируя риск манипуляций или искажения.

Децентрализованная инфраструктура ИИ и размещение моделей

Традиционный ИИ опирается на централизованные платформы и серверы, что создает единые точки отказа, проблемы с правом собственности и повышает риск цензуры или злоупотреблений. 

В отличие от этого, блокчейн обеспечивает децентрализованное размещение моделей ИИ, где модели машинного обучения распределены по множеству узлов в одноранговой сети. Такой подход способствует прозрачности, демократизирует контроль и снижает зависимость от крупных технологических компаний.

Такие проекты, как Ocean Protocol и SingularityNET, являются ярким примером этой модели. Ocean Protocol позволяет поставщикам данных и разработчикам ИИ безопасно обмениваться данными и моделями и монетизировать их через торговую площадку на основе блокчейна. 

SingularityNET, возглавляемая создателями робота Софии, позволяет разработчикам публиковать, обмениваться и совместно создавать сервисы искусственного интеллекта в децентрализованной сети с использованием смарт-контрактов и токенов.

Эта инфраструктура имеет решающее значение для экосистем Web3, где доверие не возлагается на одну организацию, а заложено в децентрализованные протоколы. Она также повышает отказоустойчивость за счет распределения вычислительных ресурсов и хранилища, что делает системы ИИ менее уязвимыми для атак или цензуры.

Поддержка соблюдения нормативных требований и отслеживаемости.

Одна из самых больших проблем в управлении ИИ — это доказательство соответствия правовым и этическим стандартам. Ключевая особенность блокчейна — защищенная от подделки, фиксированная по времени запись транзакций — обеспечивает полную отслеживаемость и соответствие нормативным требованиям по всей цепочке поставок ИИ.

Благодаря технологии блокчейн организации могут вести подробные журналы следующей информации:

• Кто получил доступ к модели или набору данных или внес в них изменения?

• Когда были внесены изменения

• Какие конкретные параметры или данные использовались для обучения?

Такой уровень прозрачности крайне важен для проведения аудитов, особенно в рамках таких законов, как Закон ЕС об искусственном интеллекте, который требует обширной документации для систем ИИ высокого риска. Например, Европейская инфраструктура блокчейн-сервисов (EBSI) проводит пилотное тестирование использования распределенных реестров для повышения прозрачности в государственном секторе, включая аудит ИИ.

Кроме того, блокчейн помогает отслеживать версии моделей ИИ и принимаемые решения с течением времени, предоставляя цифровые отпечатки для каждой итерации модели. Такая отслеживаемость необходима не только для привлечения к ответственности и возмещения ущерба, но и для обеспечения подотчетности в динамичных, самообучающихся средах ИИ.

Смарт-контракты для автоматизированного создания этических правил

Смарт-контракты — это самоисполняющиеся соглашения, закодированные в блокчейне. Применительно к искусственному интеллекту они могут обеспечивать соблюдение заранее определенных этических или операционных правил, автоматически останавливая или одобряя действия на основе соответствия установленным критериям.

Например, смарт-контракт может:

• Заблокируйте доступ системы искусственного интеллекта к конфиденциальным данным, если пользователь не дал на это согласия.

• Приостановите развертывание модели, если во время тестирования смещение превысит определенный пороговый уровень.

• Внедрить правила лицензирования на децентрализованных рынках ИИ.

Такие проекты, как Fetch.ai и Prove AI AG, работают над интеграцией агентов искусственного интеллекта со смарт-контрактами для автоматизации принятия решений и управления. 

В экосистеме Prove AI модели ИИ содержат криптографические доказательства и управляются основанными на правилах смарт-контрактами, которые проверяют соответствие стандартам в режиме реального времени.

Этот подход особенно полезен в автономных системах искусственного интеллекта, таких как системы в беспилотных автомобилях или децентрализованных финансах (DeFi) , где человеческий контроль ограничен или невозможен. Смарт-контракты гарантируют, что модели функционируют в рамках этических и правовых норм, заложенных в их конструкции, а не только в соответствии с политикой.

Реальные примеры и тематические исследования управления ИИ в блокчейне

Вот примеры из практики, демонстрирующие, как блокчейн активно поддерживает ответственное развитие искусственного интеллекта:

nChain: Обеспечение безопасности операций ИИ с помощью неизменяемых данных

Компания nChain, специализирующаяся на блокчейн-технологиях и известная своей работой над блокчейном Bitcoin SV, фокусируется на обеспечении безопасности рабочих процессов ИИ путем предоставления неизменяемого хранилища данных и цифровых следов доказательств. 

Ее платформа позволяет организациям регистрировать и фиксировать время на каждом этапе жизненного цикла ИИ, от сбора и предварительной обработки данных до обучения и развертывания, в общедоступном блокчейн-реестре.

Этот подход помогает:

• Предотвратите фальсификацию или несанкционированные изменения в наборах данных.

• Необходимо обеспечить подтверждение целостности входных данных и результатов обучения модели.

• Создавайте журналы аудита экспертного уровня для проверки соответствия требованиям и соблюдения законодательства.

Решение nChain особенно хорошо согласуется с Рамочной программой управления рисками в области ИИ Национального института стандартов и технологий (NIST) и готовящимся к принятию Законом ЕС об ИИ, которые обязывают к полной прозрачности в процессах разработки ИИ. 

Благодаря интеграции каждого процесса в блокчейн, nChain позволяет обеспечить подотчетность на основе фактических данных, что является критически важным элементом для регулирующих органов и секторов с высоким риском, таких как финансы, здравоохранение и оборона.

EQTY Lab: Токенизация соответствия этическим нормам в области ИИ.

EQTY Lab — это новая платформа, которая фокусируется на стимулировании этичного развития ИИ посредством токенизации на основе блокчейна. Компания предлагает платформу «соблюдение нормативных требований как услуга», где проекты в области ИИ могут оцениваться на основе заранее определенных этических стандартов, а затем вознаграждаться или наказываться с помощью цифровых токенов.

Основные функции включают в себя:

• Токенизированные подтверждения соответствия таким принципам, как справедливость, объяснимость и конфиденциальность.

• Система оценки на основе блокчейна для анализа и ранжирования моделей искусственного интеллекта с учетом этических показателей.

• Обеспечение соблюдения этических обязательств с помощью смарт-контрактов, позволяющее проверять этические заявления в блокчейне.

В модели EQTY разработчики размещают токены в стейкинге, чтобы доказать свою приверженность ответственному подходу к ИИ. Если они нарушают этические нормы — например, не проходят проверку на предвзятость или нарушают стандарты конфиденциальности — смарт-контракт применяет штрафные санкции, а сообщество получает уведомление через децентрализованный журнал аудита. Такой подход способствует саморегулированию в масштабах всей системы, а также формирует стимулы для ответственного поведения. 

Prove AI AG: Децентрализованная верификация алгоритмов искусственного интеллекта

Компания Prove AI AG, базирующаяся в Швейцарии, специализируется на криптографических доказательствах для обеспечения соответствия моделей искусственного интеллекта требованиям безопасности. Компания использует доказательства с нулевым разглашением (ZKP) и технологию распределенных реестров (DLT), позволяя разработчикам и пользователям ИИ проверять поведение алгоритмов без раскрытия конфиденциальных моделей или важных данных.

Докажите, что уровень управления ИИ включает в себя:

• Децентрализованные реестры поведения алгоритмов и исторических данных о производительности

• Проверка результатов работы ИИ в режиме реального времени на соответствие этическим и правовым требованиям.

• Интеграция смарт-контрактов для автоматической блокировки функций ИИ, нарушающих требования соответствия.

Например, в трансграничном приложении для здравоохранения Prove AI позволил больницам проверить соответствие диагностической системы искусственного интеллекта законам об обработке данных, таким как GDPR, без необходимости прямого доступа к обучающим данным или исходному коду. Их сертификаты соответствия, хранящиеся в блокчейне, регулярно проверяются независимыми валидаторами в сети.

Ocean Protocol: Децентрализованный обмен данными для этичного использования ИИ

Ocean Protocol — яркий пример того, как блокчейн может способствовать этичному обмену данными для разработки искусственного интеллекта. 

Созданная на платформе Ethereum, Ocean предлагает децентрализованную площадку для обмена данными, где частные лица, компании и организации могут совместно использовать или монетизировать наборы данных, сохраняя при этом полный контроль над конфиденциальностью и правами доступа.

Ключевые направления деятельности в области управления ИИ включают:

• Использование токенов данных для управления доступом и отслеживаемостью.

• Условия лицензирования в блокчейне, обеспечивающие этичное использование (например, запрет на перепродажу, некоммерческое использование).

• Архитектура «вычислительные ресурсы — данные», позволяющая проводить обучение ИИ без прямого доступа к данным.

Протокол Ocean Protocol особенно полезен в таких чувствительных отраслях, как климатология, здравоохранение и транспорт, где для обучения ИИ необходимы высококачественные данные, но при этом должна быть обеспечена конфиденциальность. 

Например, в сотрудничестве с Федеральным министерством образования и науки Германии компания Ocean поддержала ответственные инновации в области искусственного интеллекта в системах мобильности, обеспечив обмен данными между муниципалитетами.

Разработанная компанией Ocean платформа гарантирует, что системы искусственного интеллекта, обученные на данных их торговой площадки, подлежат аудиту, имеют ограниченный доступ и соответствуют нормативным требованиям, устраняя ключевой пробел в существующих моделях управления ИИ.

SingularityNET: Децентрализованные сервисы искусственного интеллекта на блокчейне

SingularityNET, основанная доктором Беном Гертцелем и известная благодаря разработке робота Sophia, представляет собой децентрализованную торговую площадку для сервисов искусственного интеллекта, работающую на блокчейне Cardano. 

Платформа позволяет разработчикам развертывать, монетизировать и объединять модели ИИ в рамках децентрализованной инфраструктуры, одновременно внедряя механизмы управления непосредственно в сеть.

К областям, имеющим отношение к управлению ИИ, относятся:

• Условия предоставления услуг, обеспечиваемые смарт-контрактами (например, недискриминационные результаты, гарантии бесперебойной работы).

• Децентрализованные системы оценки репутации, помогающие пользователям оценивать качество и этичность услуг ИИ.

• Использование токенов AGIX для осуществления платежей, контроля доступа и голосования в рамках управления.

Экосистема SingularityNET включает в себя примеры применения в обработке естественного языка, биомедицинских исследованиях, робототехнике и финансовом прогнозировании. 

Распределяя права собственности и обеспечивая соблюдение правил использования посредством блокчейна, платформа минимизирует централизованный контроль и способствует прозрачной и совместной разработке ИИ.

Защита интеллектуальной собственности и запатентованных активов в области искусственного интеллекта с помощью блокчейна.

Поскольку искусственный интеллект становится центральным элементом конкурентных преимуществ в таких секторах, как здравоохранение, финансы, производство и оборона, защита интеллектуальной собственности, связанной с моделями ИИ, обучающими наборами данных и алгоритмами, никогда не была столь важна. 

Эти активы представляют собой значительные инвестиции и инновации, но традиционные методы защиты интеллектуальной собственности часто оказываются неэффективными в быстро меняющейся цифровой среде. 

Технология блокчейн предлагает современное децентрализованное решение для защиты запатентованных активов в области искусственного интеллекта, обеспечивая проверяемое право собственности, неизменяемые журналы аудита и прозрачные системы лицензирования.

Как распределенные реестры помогают защитить инновации в области искусственного интеллекта

Технология распределенного реестра (DLT) позволяет разработчикам и организациям, занимающимся искусственным интеллектом, хранить записи о правах собственности, метаданные моделей и лицензионные соглашения в неизменяемом децентрализованном реестре. 

В отличие от централизованных баз данных, уязвимых для взлома, несанкционированного доступа или угроз со стороны инсайдеров, блокчейн предоставляет защищенную от несанкционированного доступа систему, в которой каждая транзакция навсегда записывается и может быть проверена всеми сторонами.

Путем привязки журналов разработки ИИ, истории версий и доступа пользователей к блокчейну:

• Создатели ИИ могут проверить происхождение и авторство модели или набора данных.

• Несанкционированные изменения или копирования могут быть обнаружены немедленно.

• Правовые споры, касающиеся прав собственности на модели, прав на использование или условий лицензирования, проще разрешать при наличии неопровержимых доказательств.

Временная метка и подтверждение права собственности для алгоритмической интеллектуальной собственности.

Одна из самых мощных функций блокчейна в защите интеллектуальной собственности — это временная метка, позволяющая зафиксировать фрагмент цифрового контента (например, код, алгоритм, веса модели) в определенный момент времени и доказать, что он существовал в тот момент, не раскрывая его подробности публично.

Этот механизм создает цифровой отпечаток, или хеш, актива, который неизменяемо хранится в блокчейне. Оригинальный актив не нужно публиковать; записывается только его криптографическая подпись. Это позволяет разработчикам:

• Доказательство предшествующего изобретения в случае патентных или авторских споров.

• Защита от кражи или неправомерного присвоения авторства конкурентами.

• Регистрируйте и лицензируйте модели ИИ в блокчейне на условиях, обеспечивающих отслеживаемость.

Такие платформы, как nChain, Provenance и IPFS/Filecoin, предоставляют инфраструктуру для проставления временных меток и децентрализованного хранения данных. 

Например, разработчик, создающий собственный алгоритм рекомендаций, может создать хеш кода и зарегистрировать его в блокчейне. Если другая сторона заявляет о владении или лицензировании той же интеллектуальной собственности, исходная метка времени служит юридической основой для разрешения споров.

Кроме того, эта возможность поддерживает автоматическое начисление роялти и обеспечение соблюдения лицензионных требований. Смарт-контракты могут инициировать платежи создателям моделей всякий раз, когда используется или осуществляется доступ к их интеллектуальной собственности, что позволяет лицензировать ИИ так же легко, как цифровую музыку или искусство.

Проблемы интеграции блокчейна и искусственного интеллекта.

Хотя сближение блокчейна и искусственного интеллекта предлагает многообещающие решения для обеспечения доверия, прозрачности и подотчетности, оно также порождает ряд технических, правовых и этических проблем. 

В процессе интеграции этих мощных технологий в масштабируемые и ответственные системы организациям и разработчикам необходимо решить следующие ключевые проблемы:

Проблемы масштабируемости и совместимости

Масштабируемость является серьезным препятствием как для ИИ, так и для блокчейна, как по отдельности, так и особенно при их интеграции. 

Системы искусственного интеллекта требуют высокоскоростной обработки данных, вычислений с низкой задержкой и отклика в реальном времени, в то время как блокчейн-сети, особенно публичные цепочки, такие как Ethereum и Bitcoin, часто сталкиваются с проблемами ограниченной пропускной способности транзакций и высокого энергопотребления.

Например, Ethereum 1.0 обрабатывает около 15–30 транзакций в секунду (TPS), в то время как централизованные системы, такие как Visa, обрабатывают более 24 000 TPS.

Модели искусственного интеллекта, особенно те, которые используют глубокое обучение, могут требовать тысячи операций в секунду для обслуживания приложений в режиме реального времени, что делает полное выполнение модели в блокчейне нецелесообразным.

Хотя решения второго уровня , шардинг и механизмы доказательства доли владения улучшили производительность блокчейна, эти технологии все еще находятся на стадии зрелости.

Запуск моделей ИИ вне блокчейна и привязка ключевых событий к блокчейну (как это реализовано в архитектуре «вычисления-данные» протокола Ocean Protocol) — это практичное обходное решение, но оно усложняет процесс и увеличивает затраты.

Еще одним препятствием является совместимость. Различные блокчейн-платформы (например, Ethereum, Cardano и Hyperledger) используют несовместимые протоколы консенсуса, языки смарт-контрактов и стандарты данных, что затрудняет работу систем искусственного интеллекта в различных сетях. 

Без бесшовной совместимости преимущества децентрализованного управления ИИ, такие как отслеживаемость на разных платформах и повсеместное обеспечение этических норм, остаются ограниченными.

Правовая и нормативная неопределенность

Несмотря на растущее внимание со стороны мировых регулирующих органов, правовой статус многих приложений на основе блокчейна и искусственного интеллекта остается неясным, что создает риски соблюдения нормативных требований для разработчиков и организаций.

К числу проблем, связанных с блокчейном, относятся:

• Вопрос о том, имеют ли смарт-контракты юридическую силу в разных юрисдикциях.

• Как законы о защите данных (например, право на забвение в соответствии с GDPR) применяются к неизменяемым реестрам

• Кто несёт ответственность в децентрализованных сетях, особенно в системах искусственного интеллекта, управляемых децентрализованными автономными организациями (DAO)?

Между тем, регулирование ИИ все еще находится в стадии разработки. Закон ЕС об ИИ, Закон США об ответственности за алгоритмы и правила управления ИИ в Китае различаются по масштабу, терминологии и механизмам применения. Интеграция ИИ с блокчейном поднимает уникальные правовые вопросы, такие как:

• Как сертифицировать или проводить аудит моделей ИИ, которые развиваются с течением времени (например, посредством машинного обучения)?

• Как распределить ответственность в автономных или децентрализованных системах

• Можно ли оспорить в суде результаты, полученные с помощью ИИ, например, решения, принимаемые в рамках смарт-контрактов?

Например, если система искусственного интеллекта, встроенная в смарт-контракт, принимает дискриминационное решение о кредитовании, кто несет ответственность: создатель, тот, кто развернул контракт, или оператор сети? Без четких правовых указаний эти вопросы остаются нерешенными, что препятствует более широкому внедрению в регулируемых отраслях.

Этические дилеммы в децентрализованном управлении

Децентрализация способствует прозрачности и демократизации, но также порождает этические сложности, которые трудно разрешить без централизованного контроля или надзора. 

Управление в системах блокчейн-ИИ часто основывается на голосовании сообщества, стимулах на основе токенов и автономном принятии решений — всё это может противоречить этическим принципам ИИ.

Ключевые проблемы включают в себя:

• Правление большинства против прав меньшинства: в системах управления, основанных на токенах, решения могут приниматься в пользу держателей токенов большинства, потенциально оттесняя на второй план маргинализированные группы.

• Непрозрачность поведения ИИ: даже при децентрализованном управлении модели ИИ могут вести себя как «черные ящики», что затрудняет принятие сообществами обоснованных этических решений.

• Отсутствие механизмов подотчетности: В полностью децентрализованных экосистемах ИИ определение ответственности становится затруднительным, особенно если модель причиняет вред или нарушает этические нормы.

Например, системы искусственного интеллекта, управляемые DAO, могут развертывать автоматизированных агентов без какого-либо человеческого контроля, что вызывает вопросы о том, как и когда следует вмешиваться, если система ведет себя несправедливо или опасно.

Этические рамки, основанные на постоянном человеческом контроле, контекстно-специфических суждениях и адаптивных стандартах, трудно закодировать в смарт-контрактах или обеспечить их соблюдение исключительно посредством децентрализованного управления. Это создает противоречие между технологической автономией и моральной ответственностью.

Будущее технологического надзора с использованием ИИ

Поскольку искусственный интеллект продолжает развиваться и влиять на принятие важных решений в различных отраслях, потребность в более эффективных, основанных на технологиях системах управления становится все более актуальной. 

Традиционные методы надзора, такие как ручные проверки, соблюдение требований на бумажных носителях и реактивное регулирование, больше не являются достаточными в мире, где модели искусственного интеллекта самообучаются, адаптируются и работают в режиме реального времени. 

В будущем контроль со стороны ИИ будет носить проактивный, автоматизированный характер и будет тесно интегрирован с такими технологиями, как блокчейн, Интернет вещей, федеративное обучение и смарт-контракты.

Контроль за использованием ИИ будет автоматизирован и интегрирован.

В будущем системы контроля будут встраиваться непосредственно в сам конвейер обработки данных ИИ, а не добавляться позже. Это означает использование автоматизированных инструментов мониторинга, которые непрерывно отслеживают производительность модели, выявляют аномалии и проверяют соответствие этическим, правовым и операционным стандартам.

Например, передовые платформы управления ИИ могут:

• Автоматическая приостановка или обновление модели, если смещение превышает заданные пороговые значения.

• Отправлять оповещения, когда решения модели отклоняются от ожидаемых норм.

• Создавайте отчеты о соответствии требованиям в режиме реального времени для регулирующих органов и заинтересованных сторон.

Такие инструменты, как ModelOps и платформы для мониторинга машинного обучения, являются первыми признаками этого сдвига, обеспечивая видимость в реальном времени того, как системы ИИ ведут себя в производственных средах.

Децентрализация укрепит доверие и подотчетность.

Технологии, такие как блокчейн и децентрализованная идентификация (DID), будут играть более важную роль в повышении прозрачности и доверия к системам искусственного интеллекта. Закрепляя обучающие наборы данных, версии моделей и журналы решений на защищенных от подделки реестрах, организации могут создавать системы, которые по умолчанию подлежат проверке.

Такой подход позволяет:

• Неизменяемые журналы аудита разработки и развертывания моделей

• Прослеживаемая подотчетность в цепочках поставок и экосистемах данных.

• Ограниченный доступ и автоматическое обеспечение соблюдения правил этичного использования посредством смарт-контрактов.

Такие проекты, как Ocean Protocol, nChain и Prove AI AG, уже закладывают основу для подобных децентрализованных и прозрачных экосистем искусственного интеллекта.

Трансграничные стандарты и совместимость будут приобретать все большее значение.

Управление ИИ будет все больше становиться глобальным процессом. Поскольку страны внедряют собственные законы об ИИ, такие как Закон ЕС об ИИ, китайские руководящие принципы в области ИИ и американский Билль о правах в сфере ИИ, отсутствие совместимости между этими рамками создает проблемы для международных компаний.

В будущем ожидается:

• Рост числа глобальных стандартов соответствия в области ИИ, аналогичных ISO, в обрабатывающей промышленности.

• Взаимодействующие уровни политики, встроенные в технологические комплексы управления.

• Усилия по согласованию вопросов защиты данных, оценки предвзятости и обеспечения безопасности в различных юрисдикциях

Наблюдательный центр по вопросам политики в области ИИ при ОЭСР и рекомендации ЮНЕСКО по этике в сфере ИИ уже работают над гармонизацией глобальных рамок.

Этическое управление будет обеспечиваться за счет сотрудничества между заинтересованными сторонами.

По мере усложнения систем искусственного интеллекта ни одна организация, будь то компания, правительство или НПО, не может эффективно управлять ими в одиночку. В будущем для контроля за ИИ потребуется сотрудничество между технологами, регулирующими органами, специалистами по этике, гражданским обществом и пользователями.

Это приведет к следующему:

• Модели участия в управлении, в которых затронутые сообщества помогают определять этические пороги.

• Комитеты по этике в сфере ИИ, в состав которых входят специалисты из разных функциональных областей и культур.

• Расширение возможностей регуляторных «песочниц» для тестирования инноваций в области искусственного интеллекта в контролируемых условиях.

Подобные модели сотрудничества помогут обеспечить, чтобы управление ИИ отражало общественные ценности и адаптировалось к культурному разнообразию, а не навязывало жесткие, универсальные правила.

Технологии, обеспечивающие конфиденциальность, повысят уровень контроля без ущерба для данных.

В будущих системах надзора необходимо обеспечить управление ИИ с учетом конфиденциальности данных, особенно в таких чувствительных секторах, как здравоохранение, финансы и национальная безопасность. 

Здесь на помощь приходят технологии, обеспечивающие конфиденциальность, такие как:

• Федеративное обучение

• Дифференциальная конфиденциальность

• Гомоморфное шифрование

Эти инструменты станут незаменимыми. Они позволяют надзорным органам проводить аудит, мониторинг и обеспечивать соблюдение правил без прямого доступа к личным или конфиденциальным данным, сохраняя тем самым доверие и соответствие требованиям.

Заключение

Искусственный интеллект не управляет собой сам, и не должен. По мере того, как системы становятся все более автономными, внедрение подотчетности в их основу перестает быть желательным. Блокчейн предлагает больше, чем просто техническую поддержку; он внедряет механизмы прозрачности, отслеживаемости и контроля, в которых ИИ остро нуждается.

Реальный прогресс будет достигнут за счет создания систем, в которых проверяемость, справедливость и безопасность обеспечиваются на этапе проектирования, а не по принципу исключений. Это означает согласование технологий с намерениями и архитектуры с этическими принципами.

Интеграция блокчейна в управление ИИ — это не заключительный шаг, а инфраструктура для того, что будет дальше: проверяемый, соответствующий человеческому интеллекту, который завоевывает доверие в больших масштабах.

Сейчас самое время заложить этот фундамент, обдуманно и прозрачно.

Часто задаваемые вопросы