Про джинна из бутылки, который может стать самой разрушительной силой в истории

1 ноября 28 стран приняли международную декларацию по безопасному применению искусственного интеллекта (т.н. "Декларацию Блечли"). Документ подписали в том числе такие страны, как Бразилия, Великобритания, Германия, Китай, ОАЭ, США, Франция, Япония (https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023).

В Декларации констатируется, что ИИ уже успешно используется во многих сферах повседневной жизни, включая занятость, транспорт, образование, здравоохранение правосудие.

В то же время, в Декларации говорится и о существенных рисках, присущих развитию ИИ. Наиболее важные из них (говорится даже о возможности катастрофического вреда) связываются с преднамеренным злоупотреблением в использовании ИИ или с его выходом за пределы контроля. Отмечается важность понимания таких рисков, приветствуется международное взаимодействие в этом, учитывая стремительность и неопределенность изменений ИИ.

Илон Маск на саммите даже называл ИИ "самой разрушительной силой в истории", которая "будет умнее самого умного человека и сможет выполнять всю работу". "Это как найти волшебного джинна", - говорит Маск, - "который исполнит любое ваше желание, при этом желаний может быть бесконечно много" (https://www.ixbt.com/news/2023/11/06/samaja-razrushitelnaja-sila-v-istorii-budet-umnee-samogo-umnogo-cheloveka-i-smozhet-vypolnjat-vsju-rabotu--ilon-mask.html).

3 ноября российский ЦБ опубликовал свой доклад для общественных консультаций "Применение искусственного интеллекта на финансовом рынке" (https://www.cbr.ru/press/event/?id=17177). В нем также описываются возможности использования ИИ (например, при осуществлении скоринга, инвестиционного консультирования, алгоритимческого трейдинга), и риски его применения (нарушение прав потребителей, злоупотребление конкуренцией, риски финансовой стабильности и проч.).

Что мне бросилось в глаза - вероятно, у регулятора недостаточно информации о практике применения ИИ в России. Большинство примеров применения ИИ приводятся на основе зарубежных источников. При этом ЦБ РФ совершенно справедливо говорит о том, что "выявление факторов, значимых для определения необходимости регуляторного вмешательства, будет осуществляться в рамках систематического мониторинга Банк России".

На мой взгляд, должны быть разработаны конкретные меры такого мониторинга. Каким-то образом компании частного сектора, заинтересованные, прежде всего, в коммерческой выгоде, должны делиться информацией с независимыми представителями научного сообщества и регулятором. Обязательно должна быть рефлексия того, что происходит в данной области, пока этот "джинн" не вышел из-под контроля. Важно на каждом этапе применения понимать, как именно работает ИИ. Важно также избежать практики, когда те или иные решения будут зависеть исключительно от оценки со стороны ИИ - в этом случае уже люди будут подстраиваться под "машину" (которая может и ошибаться), а значит, в каком-то смысле будут порабощены ей.