Детский кибербуллинг, безопасность ИИ и развитие Рунета: о чем говорили на форуме «Цифровые решения»

В Москве с 12 по 15 ноября проходит форум «Цифровые решения», где обсуждают роли цифровых технологий в устойчивом развитии, безопасности городской и социальной инфраструктуры. Также поднималась тема защиты наиболее уязвимых групп населения, прежде всего детей, в цифровом пространстве. Спикерами выступили представители бизнеса, федеральных и региональных органов власти. Подробнее о главных заявлениях экспертов форума — в материале URA.RU. 

Кибербуллинг касается каждой семьи

В ходе форума обсудили проблему распространения кибербуллинга и мошенничества, которые наносят серьезный психологический вред детям. Директор Департамента развития массовых коммуникаций и международного сотрудничества в Министерстве связи и массовых коммуникаций РФ Екатерина Ларина заявила, что угрозы, связанные с использованием цифрового пространства, перестают быть абстрактными и затрагивают каждую семью.

"При этом сейчас есть много доступных инструментов защиты детей в Интернете, но от родителей зависит, используются они или нет. Поэтому важно формировать осознанное отношение к пользованию Интернетом и у родителей, и у детей, с раннего возраста», — рассказала Екатерина Ларина.

Она также добавила, что искусственный интеллект не может служить полноценной заменой естественному интеллекту. Креативные модели ИИ, генерирующие тексты и изображения, порой содержат недостоверные или вымышленные данные. Эксперт отметила, что следует воспринимать ИИ как вспомогательный инструмент в интеллектуальной деятельности человека, а не как безошибочный источник информации.

Безопасность ИИ нужно продумывать уже на этапе апробации

Михаил Бочаров, заместитель генерального директора по научной работе ГК «СиСофт», отметил важность защиты данных и необходимость замещения не только импортного ПО. По его словам, в ближайшее время ряд технологических процессов будет передан искусственному интеллекту.

Речь идет о рутинных задачах, которые планируется полностью автоматизировать. Бочкарев отметил, что в настоящее время проводится тестирование технологии ИИ, и на данном этапе особое внимание следует уделить вопросам безопасности.

«Необходимо замещать не только импортное ПО, но и другие сервисы, протоколы и инфраструктурные компоненты. Только после этого можно говорить о настоящей информационной безопасности, включая облачные сервисы, сети передачи данных и прочее», — заявил он.

Что придет на смену обществу потребления

Эксперты делились своим видением о развития технологий в будущем. Гендиректор РАЭК Дмитрий Гуляев заявил, что в скором времени в сфере технологического бизнеса произойдет трансформация подходов к бизнес-процессам: снизится фокус на индивидуальных потребностях человека. Он будет восприниматься не просто как отдельный потребитель или сотрудник, а как элемент социальной системы, оказывающий влияние на функционирование бизнеса и общества в целом.

"Бизнес начнет оценивать не только прямую выгоду, но и общественное благо, которое создается через вовлеченность и взаимодействие людей, формируя новые социально-технологические модели. Это, на наш взгляд, приведет к формированию общества созидания в противовес", — рассказал Гуляев. 

В качестве примера участия бизнес-структур в социально значимых инициативах он привел проект «Международная Школа Интернет-БЕЗопасности молодежи».

Чего ждут россияне от искусственного интеллекта

О том, как изменилось отношение граждан к технологиям искусственного интеллекта, рассказал Кирилл Родин, директор по работе с органами государственной власти ВЦИОМ. Он заявил, что аудитория, знакомая с искусственным интеллектом, стремительно растет.

«В 2021 году 92% слышавших об ИИ не могли объяснить, что это такое; почти 50% говорили, что слышали, но понимания не было. В 2022 году этот показатель снизился до 36%, то есть осведомленность растет, хотя сегмент, который реально может объяснить ИИ, остается примерно прежним», — рассказал он. 

В числе преимуществ, которые люди ожидают от искусственного интеллекта, — ускорение выполнения рутинных задач, увеличение производительности труда, повышение уровня комфорта в жизни, усиление безопасности. В то же время эксперт отметил, что существуют серьезные опасения, связанные с применением ИИ в военной сфере, сбором данных и риском их утечки, а также возможностью принятия ошибочных решений системой.

Тем не менее, опрос показал, что 54% россиян рассматривают искусственный интеллект главным образом как помощника в повседневных делах. Наблюдается тенденция к росту популярности и уровня доверия к этой технологии, хотя проблемы, связанные с безопасностью, по-прежнему требуют внимания, отметил Родин. 

Российская соцсеть сделала ставку на «чистый» контент

В ходе форума эксперты обратили внимание на доверие пользователей к отечественным цифровым платформам. По словам технического директора LOOKY Александра Ларионова, социальная сеть LOOKY использует продуманную систему модерации, которая обеспечивает безопасный и качественный контент для пользователей.

Он рассказал, что процесс модерации на платформе LOOKY состоит из нескольких этапов. Вначале контент проверяют на предмет его соответствия действующему законодательству и внутренним правилам платформы. Далее LLM-модели анализируют семантику материалов с целью выявления рекламы и контента, который может представлять потенциальную опасность. В итоге команда экспертов принимает решение о формате размещения контента: в профиле пользователя, приватно или в рекомендациях.

«Благодаря такой многоуровневой системе модерации LOOKY удается формировать социальную сеть, в которой контент отличается высоким качеством и при этом отвечает требованиям безопасности», — рассказал эксперт. 

Объем экономики Рунета показал уверенный рост

На сессии «Будущее мобильных экосистем: технологии для лидерства» генеральный директор РАЭК Дмитрий Гуляев рассказал, что российская ИТ-отрасль демонстрирует уверенные темпы роста, эффективно адаптируясь к изменяющимся экономическим реалиям. Так, по данным «Экономика Рунета-2024», объем экономики Рунета составил 24 трлн рублей. 

Дмитрий Гуляев подчеркнул тенденцию брендов к формированию экосистем. В качестве примеров успешного развития он назвал такие компании, как Ozon, Авито, VK, а также объединенную компанию Wildberries & Russ (РВБ).

По мнению эксперта, несмотря на масштабность, каждая экосистема изначально отвечала конкретному запросу пользователя. Отдельные продукты остаются востребованными для удовлетворения узких и специализированных потребностей, в то время как экосистемы позволяют охватить комплекс запросов крупных социальных групп. Дмитрий Гуляев выразил уверенность в необходимости развития и тех, и других форматов.