Эксперт СПбГУ: кто несет ответственность за обучение нейросети?

Спикер представил доклад в рамках дискуссионной сессии «Искусственный интеллект и технология блокчейн в борьбе с фальшивомонетничеством: экономико-правовой анализ в глобальном контексте».

Участники беседы отметили, что объем рынка контрафактной продукции во всем мире в 2016 году составил около 620 миллиардов евро. Самыми опасными «пиратскими продуктами» становятся ненастоящие лекарственные препараты, а спектр подделываемых товаров невероятно расширился — это уже не только брендовые сумки и мобильные телефоны, но даже клубника или бананы.

По словам доцента — эксперта в области технологии блокчейн Швейцарской школы бизнеса Эммануэля Бертоли, сегодня на рынке уже есть решение для этой проблемы — использование блокчейна для создания «цифровых ДНК» товаров.

Блокчейн — это как шифр ДНК, своеобразная бирка, которая присваивается очень важному товару. Ее можно нанести на упаковку, распознать при помощи смартфона и выяснить, откуда происходит материал, из которого сделана вещь, а также кто ее производил.

Эксперт в области технологии блокчейн Швейцарской школы бизнеса Эммануэль Бертоли

Все же при всех очевидных преимуществах у блокчейна есть и стороны, которые ставят вопрос о том, как согласовать новые технологии и старые правовые принципы. Эксперт СПбГУ Владислав Архипов рассказал о системных правовых проблемах искусственного интеллекта и технологии блокчейн в контексте борьбы с подделками. Во-первых, пока не понятно, как можно внести изменения в базу данных, основанную на блокчейне, в котором выдержана «идеология» распределенных реестров, если того потребует закон.

Основная ценность технологии блокчейн заключается в том, что практически невозможно подделать запись в системе и, что самое важное, практически невозможно заменить или удалить запись без последствий для всей последующей цепочки. Это актуально, например, с точки зрения интересов частных лиц — субъектов персональных данных, которые имеют «право на забвение» как согласно Общему регламенту о защите персональных данных (GDPR), так и российскому законодательству.

Доцент кафедры теории и истории государства и права СПбГУ Владислав Архипов

Следующий вопрос — можно ли использовать информацию из распределенного реестра в качестве доказательства в суде? А что насчет «самореализующихся» смарт-контрактов — это самостоятельные договоры или всего лишь способы исполнения обязательств? И каким образом можно настроить юридически работающую систему управления децентрализованным блокчейном, в котором нет единого «владельца»?

Новые правовые проблемы возникают и в ситуации с обучением искусственного интеллекта. Если нейросети нужна большая база примеров для «тренировки», тогда кто будет отвечать за качество этой выборки? Видимо, отмечает специалист, придется вырабатывать определенные стандарты и правила для машинного обучения. Владислав Архипов также приводит в пример прогнозы компании Gartner 2018 года о соотношении хайпа вокруг новых технологий и того момента, когда они реально станут частью повседневности: так, по этим данным, нейрообучение станет частью нашей обыденной жизни уже через 2–5 лет, а блокчейн — через 5–10, поэтому нам придется отвечать на все эти вопросы.

Над решением этих и многих других проблем сегодня работают специалисты Центра технологий распределенных реестров СПбГУ, созданного в 2018 году по результатам конкурса «Российской венчурной компании». Его цель — развитие технологий распределенных реестров в различных отраслях экономики, а также подготовка образовательных программ для специалистов в данной области. Эксперты центра занимаются внедрением блокчейн-технологий в различных компаниях, работают с криптографическими методами защиты информации, участвуют в решении правовых вопросов и в разработке стандартов в этой сфере.

Модератором встречи в рамках ПМЮФ 2019 стала президент и IT-специалист Международного исследовательского центра SIRIUS Габриэлла Марчеля. В дискуссии также приняли участие ректор Санкт-Петербургского государственного экономического университета Игорь Максимцев, декан юридического факультета Санкт-Петербургского государственного экономического университета Надежда Крайнова, доцент в области уголовного процесса Римского университета Ла Сапиенца Марио Антинуччи, судья по вопросам криминалистики Верховного суда Италии Джованни Ариолли, вице-комиссар Министерства внутренних дел Италии Эмидио Делла Гала, доцент — эксперт по вопросам борьбы с фальшивомонетничеством Миланского политехнического института Роберто Моллика и судья по гражданским делам Верховного суда Италии Лина Рубино.