Искусственный интеллект уже помогает управлять промышленными процессами, анализировать данные и обучать детей. Однако вместе с распространением AI растут вопросы о безопасности, защите персональных данных и ответственности за решения алгоритмов. Участники AI & Digital Bridge 2026 в Астане обсудили, как развивать технологии без ущерба для человека и не ограничивать инновации избыточным регулированием, передает Tech-news.
Одной из центральных тем международного форума стала ответственная разработка и внедрение искусственного интеллекта. На панельной сессии «Ответственный AI для устойчивого развития: этика, доверие и человекоцентричное управление» представители ООН, UNICEF, Международного союза электросвязи и бизнеса рассмотрели практические риски использования AI и подходы к их контролю.
В дискуссии участвовали Андрей Незнамов, член Независимой международной научной группы ООН по искусственному интеллекту; Майлз Хасти (Miles Hastie), руководитель направления ответственного AI в UNICEF; Айжан Балабатырова, генеральный директор KAZ Minerals Management; Фарид Нахи (Farid Nakhi), координатор программ Регионального отделения Международного союза электросвязи для стран СНГ. Модератором выступил Курмтолла Абдулганиев, отвечающий за направление устойчивого развития AI, этики, доверия и человекоцентричного управления.
Как AI помогает промышленности, не заменяя человека
Один из примеров практического применения искусственного интеллекта представила KAZ Minerals. Компания использует цифровые двойники и аналитические системы для обработки геологических данных, оптимизации добычи и повышения эффективности производства.
По словам Айжан Балабатыровой, AI-системы ежедневно анализируют более 25 тысяч сигналов оборудования. Это помогает контролировать потребление воды, электроэнергии и химических реагентов, а также эффективнее управлять производственными процессами.
При этом компания сохраняет человеческий контроль над решениями.
«AI — это инструмент поддержки, а не принятия решений. Он анализирует данные и предоставляет рекомендации, но окончательная ответственность остаётся за человеком», — отметила Балабатырова.
Для надёжной работы таких систем необходимы качественные исходные данные, подготовленные сотрудники и проверка результатов. Автоматизация ускоряет анализ, но не отменяет профессиональную оценку рекомендаций алгоритмов.
Саморегулирование или закон: как контролировать развитие AI
Ещё один вопрос дискуссии — где проходит граница между государственным регулированием и ответственностью самих разработчиков.
Андрей Незнамов отметил, что технологии развиваются быстрее, чем формируются правовые нормы. По его мнению, чрезмерно жёсткие требования могут сдерживать инновации, поэтому технологические компании должны участвовать в разработке правил использования искусственного интеллекта.
В качестве одного из подходов он привёл корпоративные этические кодексы и отраслевые механизмы саморегулирования.
Однако, как подчеркнул Майлз Хасти, добровольных обязательств бизнеса недостаточно во всех случаях. Если коммерческие интересы вступают в противоречие с общественной безопасностью и правами человека, необходимы внешние механизмы контроля.
Фарид Нахи обозначил четыре приоритетных направления международной стандартизации AI:
- безопасность и надёжность систем;
- прозрачность и подотчётность;
- защита персональных данных;
- совместимость технологий.
Разработка единых стандартов, по его словам, требует взаимодействия государств, бизнеса и научного сообщества.
UNICEF: почему детей нужно учитывать при разработке AI
Отдельная часть дискуссии была посвящена безопасности детей в цифровой среде.
Майлз Хасти сообщил, что, согласно исследованиям UNICEF, в некоторых странах около двух третей подростков уже взаимодействуют с AI-чатботами. Часть молодых пользователей обращается к ним не только за информацией, но и за эмоциональной поддержкой.
Поэтому защиту детей необходимо учитывать ещё на этапе проектирования AI-сервисов. Среди ключевых вопросов — конфиденциальность данных, возрастные особенности аудитории и оценка потенциальных рисков.
При этом эксперт выступил против универсальных запретов на использование искусственного интеллекта детьми. Вместо ограничений, не учитывающих конкретные ситуации, он предложил сочетать защитные механизмы с цифровым образованием, участием родителей и развитием критического мышления.
Участники дискуссии также подчеркнули роль образования. Детям важно объяснять, как использовать AI для обучения, проверять полученную информацию и самостоятельно формировать выводы, не полагаясь полностью на ответы алгоритмов.
Что необходимо для ответственного развития AI
Обсуждение на AI & Digital Bridge 2026 показало, что безопасность искусственного интеллекта зависит не только от законодательства или технических ограничений. Не менее важны качество данных, подготовка специалистов, прозрачность работы систем и возможность проверить результаты их использования.
При этом единый подход к регулированию должен учитывать разные сферы применения AI: требования к промышленным системам, образовательным сервисам и инструментам, взаимодействующим с детьми, могут существенно различаться.
Главный принцип, обозначенный участниками дискуссии, — развитие искусственного интеллекта должно сопровождаться механизмами ответственности и сохранением человеческого контроля там, где решения затрагивают людей и их права.
AI & Digital Bridge 2026
Международный форум AI & Digital Bridge 2026 прошёл в Астане с 1 по 3 октября под темой Kazakhstan is the Eurasian AI Hub. Мероприятие состоялось в рамках Года цифровизации и искусственного интеллекта и стало частью AI MONTH.
Организаторами выступили международный инновационный кластер Astana Hub, Министерство искусственного интеллекта и цифрового развития Республики Казахстан и акимат Астаны.
Проведение форума финансировалось за счёт средств партнёров и спонсоров. Среди них — Freedom Bank, Kaspi Bank, «Самрук-Қазына», «Казахтелеком», Halyk Bank, Beeline Казахстан, Yandex Qazaqstan, BI Group, Mastercard, Tengizchevroil, KAZ Minerals, Presight AI, BTS Digital и другие компании.
