0
0
Укажет на аварию, конфликт и проанализирует рентген-снимок: как ИИ становится умным помощником на Ямале
В ЯНАО ИИ следит за порядком в детсадах и предупреждает о коммунальных проблемах
На Ямале масштабируют проект ИИ-видеоаналитики в детских садах. Его разработали в регионе и уже протестировали в Салехарде, Лабытнанги и Надымском районе. Еще одна «находка» ямальских разработчиков, помогающая оперативно реагировать на инциденты в ЖКХ, уже оказалась востребованной в других субъектах РФ. Сколько всего сценарных решений с использованием искусственного интеллекта есть в ЯНАО, какие сферы можно считать передовыми и какие риски могут возникать при использовании ИИ специалистами? Об этом говорили в пресс-центре «Север-Пресса» с первым заместителем директора департамента информационных технологий и связи округа Дмитрием Шмелевым.
Содержание
- 00:45 Когда в ЯНАО начали внедрять ИИ и сколько проектов уже есть
- 02:48 Как работает проект с ИИ в детских садах
- 05:58 Про уникальность разработки и слова-триггеры
- 10:24 Куда поступают данные, кто работает с системой
- 12:46 Кто имеет доступ и как разрешаются ситуации
- 16:05 Есть ли интерес к системе в других регионах, как она будет развиваться
- 19:44 Как в школе пригодилась технология из ресторанов
- 24:40 Как появился помощник для служб ЖКХ
- 28:45 Как отрабатывается сигнал помощника в ЖКХ
- 34:16 О передовых проектах в здравоохранении ЯНАО
- 36:40 Как часто поступают идеи и как их анализируют
- 38:26 Как ИИ помогает в сфере безопасности в ЯНАО
- 40:52 Если есть идеи, куда обращаться?
- 42:13 Есть ли риски при внедрении ИИ?
Когда в ЯНАО начали внедрять ИИ и сколько проектов уже есть
00:45 Активная работа в регионе началась примерно в 2022 году. Тогда еще не все проекты были под модным термином «искусственный интеллект», но уже применялись компьютерное зрение и другие технологии. Количество проектов на текущий момент можно считать по-разному. У нас официально подтвержденных сценариев использования ИИ, учет которых ведет Минцифры, 22. При этом часть из них еще находится на валидации со стороны федерального органа. С другой стороны, есть множество решений, но не все из них можно выделить как полноценные IT-проекты и решения. Вопрос в том, как их учитывать. Если говорить про ключевые отрасли, флагманы — здравоохранение, где реализовано много различных решений, и безопасность — все, что касается видеонаблюдения, сценариев, видеоаналитики и так далее. При этом в последнее время появилось очень много кейсов в госуправлении: автоматизируются задачи в финансах, закупках и других сферах с помощью сервисов на базе искусственного интеллекта.
Как работает проект с ИИ в детских садах
02:48 Проект изначально шел от губернатора Дмитрия Андреевича Артюхова. Задача — обезопасить при помощи системы видеонаблюдения как детей, так и воспитателей, потому что это такая обоюдная история. И система строится на базе нашей единой системы видеонаблюдения. То есть у нас первично детские сады оборудуются камерами — это базовая технология, которая позволяет реализовать на ней дальнейшие сервисы. Мы выбрали три муниципалитета по критериям достаточной разнообразности: Салехард, Приуральский и Надымский районы. Салехард и Лабытнанги — достаточно большие города, а в районах есть отдаленные поселки со своей спецификой, в том числе с точки зрения каналов связи, доступа и так далее. Поэтому для того, чтобы протестировать систему в разных условиях, и были выбраны эти муниципалитеты. Сейчас система уже развернута в 43 детских садах и охватывает больше 2000 камер. И, соответственно, на этих камерах мы сделали сценарии искусственного интеллекта. Они работают по следующему принципу: мы первично анализируем аудиопоток с камер, потому что его легче детектировать, это менее ресурсоемкая история. Она позволяет более четко идентифицировать какие-то инциденты. Это, прежде всего, крик, ругань, мат, иные какие-то вещи, которые можно выявить как на уровне спектрограмм (когда просто идет повышение голоса), так и на уровне транскрибации и выделения просто слов. И когда мы зафиксировали такой инцидент, можем этот фрагмент посмотреть на видео и четко понять, действительно ли это была какая-то внештатная ситуация, например, накричали на ребенка, не дай бог, ударили или еще что-то, либо это случаи другого плана. К примеру, очень много ситуаций, когда дети между собой просто играют или, скажем, приходит родитель и с ребенком шутя, в своей манере разговаривает. При этом, если бы это была речь со стороны воспитателя, это бы по-другому было воспринято. Поэтому сейчас у нас задача — максимально адаптировать систему так, чтобы сократить количество ложноположительных срабатываний.
Про уникальность разработки и слова-триггеры
05:58 Такой простой пример. Изначально словом-триггером, на которое происходило срабатывание, было, допустим, «заберу». Мы исходили из того, что кто-то может сказать ребенку: «Я сейчас тебя заберу, уведу куда-то». Но, когда начали смотреть срабатывания, выяснилось, что практически все они возникают в нейтральных ситуациях, например, когда воспитатель говорит: «Тебя сейчас мама заберет». Понятно, что нужно откорректировать аспекты алгоритма и донастроить его, чтобы сократить количество ложных срабатываний. Сейчас мы активно работаем над этим вместе с департаментом образования, чтобы, с одной стороны, не фиксировать лишнее, а с другой — не пропустить реальные инциденты. Задача очень нетривиальная. Готовых решений, которые можно было бы просто взять и купить, на рынке, к сожалению, мы не нашли. А поскольку задача крайне специфичная — речь идет о взаимодействии взрослых и детей в детском саду, приходится самостоятельно искать баланс. Нужно не отсечь важное и при этом не захлебнуться в потоке срабатываний. Именно этот баланс сейчас и пытаемся найти: где-то сужая критерии, а где-то, наоборот, расширяя набор паттернов, которые требуется идентифицировать. Тональности и обработка аудиопотока — это многоэтапный процесс. Сначала нужно отсечь фрагменты, где вообще ничего не происходит: например, ночь или время, когда дети ушли на прогулку, — распознавать там нечего. Затем на уровне моделей анализируются резкие всплески (даже необязательно речь, а просто резкие изменения звука), это потенциальные триггеры. Если всплеск обнаружен, можем идентифицировать, есть ли в этом фрагменте речь. Например, если просто хлопнула дверь, этот случай не учитывается. Если же речь есть, анализируем ее на предмет отклонений, смотрим, есть ли какие-то тревожные признаки. Это многослойный процесс, который постепенно сужает круг проверяемых элементов.
Куда поступают данные, кто работает с системой
10:24 Передача идет в режиме, близком к реальному, — с небольшой задержкой. Поскольку система построена на базе единой системы видеонаблюдения, вся инфраструктура развернута в региональном центре обработки данных в Салехарде. Все данные не покидают периметр этого центра: их обрабатывают только здесь. Поэтому с точки зрения безопасности и сохранности есть стопроцентная уверенность, что аудио- и видеозаписи никуда не уходят. Задействовано несколько направлений работы, нельзя сказать, что проектом занимается всего 10–20 человек: разные специалисты отвечают за разные участки. Одни обеспечивают работоспособность самого центра обработки данных, причем там обрабатывают не только эту систему, но и множество других. Другие занимаются монтажом и эксплуатацией видеокамер. Третьи обеспечивают каналы связи до камер, чтобы стабильно передавались картинка и аудиопоток. Есть специалисты, которые работают с платформой видеонаблюдения, а также те, кто отвечает за сценарии видеоаналитики. При этом самих сотрудников, задействованных непосредственно в проекте, не так много, как хотелось бы, — буквально единичные сотрудники.
Кто имеет доступ и как разрешаются ситуации
12:46 Пока круг людей, имеющих доступ к результатам работы системы видеоаналитики и данным с камер, очень ограничен — их можно пересчитать по пальцам одной руки. Это сотрудники нашего департамента и представители департамента образования. Вопрос организационного порядка очень тонкий — еще предстоит выработать модель того, как правильно реагировать на инциденты. Например, должен ли руководитель детского сада иметь доступ к данным и получать уведомления или эту информацию должны видеть только представители окружного или муниципального департамента образования, чтобы при выявлении систематических нарушений инициировать проверки? Сейчас основное внимание сосредоточено на технической стороне — обеспечении работы системы и идентификации потенциальных нарушений. А вот как выстроить дальнейшую организационную работу, нам предстоит детально проработать совместно с департаментом образования. Важно, чтобы система никому не навредила: если начнем перегибать палку, например, штрафовать воспитателя за каждое повышение голоса, хорошего результата не будет. Нужна очень тонкая настройка. Мы должны быть уверены, что с технической стороны не пропускаем действительно важные инциденты. Департамент образования сейчас как раз начинает выстраивать работу, чтобы определить правильные механизмы реагирования. Сценариев взаимодействия может быть много, например, запрос от родителя: ребенок пожаловался на что-то, и родитель хочет посмотреть, что и когда происходило. Или иные ситуации — нужно грамотно все организовать. Мы сейчас в самом начале пути. Так как никто этот путь не проходил, приходится все пробовать самостоятельно.
Есть ли интерес к системе в других регионах, как она будет развиваться
16:05 Пока мы не особо широко рассказываем про эту систему, пожалуй, впервые о ней так подробно прозвучало на Совете по искусственному интеллекту. Пока рано делиться большим опытом: сначала нужно самим все проработать и отрегулировать вопросы. По другим системам, где уже далеко продвинулись, мы активно обмениваемся наработками с коллегами, а здесь еще предстоит многое доделать. В планах — добраться практически до всех детских садов. Единственное серьезное ограничение — каналы связи. К сожалению, есть несколько совсем отдаленных населенных пунктов с определенными сложностями: не везде проложена оптика, а спутниковая связь — очень дорогое удовольствие. Это главный стоп-фактор для внедрения системы. Как только оптика дойдет до всех нужных точек, сможем развернуть систему повсеместно. Что касается позиции родителей, которые могут быть против установки камер, эту работу с ними ведет департамент образования. Вероятно, уже имеющийся опыт по действующим детским садам может повлиять на отношение родителей и помочь изменить мнение. Не могу точно сказать, как принимается решение об оборудовании конкретной группы в детском саду: скорее всего, мнение родителей учитывают, но это не в моей зоне ответственности.
Как в школе пригодилась технология из ресторанов
19:44 Проект «Фотокасса» реализовывался департаментом образования Ямала. Цель — повысить качество школьного питания, которое нередко вызывает неоднозначные реакции: об этом свидетельствуют и отзывы в соцсетях, и обращения от родителей. Все хотят, чтобы еда в школе была качественной, но при этом нужно соблюдать требования Роспотребнадзора, Рособрнадзора и других ведомств. Например, нельзя кормить детей только тем, что им нравится (вроде макарон с сосисками): есть установленные нормы, и приходится балансировать. Влияют и организационные моменты: температура блюд, сервировка. Кушать холодное блюдо, размазанное по тарелке, не сильно захочется. Суть проекта в том, что в школе устанавливают специальный аппарат, через который проходят все тарелки. Система проверяет, насколько блюдо соответствует эталону по ключевым параметрам — весу (соответствию нормативам) и температуре готового блюда. Пока проект требует организационной доработки: просто установить оборудование и не менять сам процесс, бессмысленно. Изначально его запускали, чтобы выявить узкие места и понять, как можно эффективнее выстроить работу. Например, на базе четвертой школы в Салехарде уже закупили дополнительные термокейсы, они помогли скорректировать процесс раздачи блюд. Это одно из практических решений, появившихся благодаря проекту. Технология пришла из ресторанной сферы: поставщик, предложивший решение, ранее занимался ресторанной кухней, где перед подачей в зал блюда точно так же оценивают по заданным параметрам.
Еще один сервис, «Ассистент учителя» — тоже достаточно интересное решение. Его суть в том, что учитель может записать свой урок на обычный смартфон, например, просто поставить телефон рядом. Система выполнит транскрибацию, проведет аналитику и выделит для педагога точки роста: например, покажет, где тема раскрыта не до конца или где формулировку можно было бы сделать понятнее для учеников. Это инструмент для самоконтроля и профессионального развития: с его помощью учитель может оценить, насколько проведены все обязательные процедуры и как можно улучшить подачу материала. Решение не разрабатывали с нуля, использовали уже существующий продукт, доступный на рынке.
Как появился помощник для служб ЖКХ
24:40 Сразу скажу, что это не сервис для жителей, которые входят в общедомовой чат в мессенджере «Макс», а инструмент для служб ЖКХ. Жители с ним практически не взаимодействуют: если зайти в домовой чат, там можно увидеть бота, но он работает в интересах профильных служб. Его основная задача — дать сотрудникам департамента Госжилнадзора и другим ответственным службам удобный инструмент для работы с большим количеством чатов. Сейчас бот добавлен более чем в 3500 чатов, вручную рассылать уведомления в такое количество чатов невозможно: это крайне трудоемко. Бот позволяет оперативно делать адресные рассылки, например, об отключении электроэнергии в конкретном районе или в зоне ответственности одной управляющей компании. Достаточно одного клика, и сообщение уходит сразу по нужным чатам. Со временем функционал расширялся: появилась, например, функция распознавания агрессивных сообщений, в том числе соседей в адрес другу друга. Но главное — этот инструмент позволяет очень быстро идентифицировать аварии и инциденты. Если в чате сразу несколько человек пишут, что пропала горячая вода, система помогает быстро идентифицировать инцидент. Написать в чат зачастую быстрее, чем звонить куда-либо. А поскольку в чатах присутствуют и представители управляющей компании, и органы власти, получается очень оперативный канал коммуникации. У системы есть отдельный интерфейс — туда можно зайти, чтобы посмотреть аналитику. Для ответственных лиц предусмотрена своя часть функционала бота: она позволяет видеть скопление жалоб и оперативно реагировать на крупные инциденты.
Как отрабатывается сигнал помощника в ЖКХ
28:45 Это уже вопрос организации работы: все зависит от того, как выстроен процесс в каждой управляющей компании. Во многих из них есть круглосуточные дежурные службы, они принимают звонки по телефону, а бот становится для них еще одним каналом связи. В ходе развития системы появилась идея дополнительного сервиса — идентификация мошенников. К сожалению, встречаются недобросовестные товарищи, которые добавляются в домовые чаты и пытаются, например, подбить жильцов на смену управляющей компании либо организовать сбор денег, а дальше развиваются типичные мошеннические схемы.Система позволяет выявлять подозрительную активность: например, если один и тот же пользователь добавился в несколько чатов и разослал в них идентичные сообщения, это фиксируется — и такие действия можно оперативно пресекать. Разработка оказалась востребованной, в том числе при участии Минстроя. Мы представили решение другим регионам, и интерес оказался высоким. Первым регионом, который запросил и получил доступ к сервису, стала Челябинская область. Сейчас запросы поступили уже от примерно восьми субъектов, среди них — Камчатский край, Нижегородская, Ростовская, Рязанская области и другие. География достаточно широкая, и мы продолжаем развивать сервис: появляются новые идеи по его улучшению.
О передовых проектах в здравоохранении ЯНАО
34:16 Коллеги в сфере здравоохранения — действительно передовики: остальным отраслям есть чему у них поучиться, и мы сами перенимаем их опыт. Исторически внедрение искусственного интеллекта в медицине началось раньше, чем в других сферах, в первую очередь за счет развития компьютерного зрения, например, анализа медицинских снимков. Именно с этого направления все фактически и стартовало. При этом у коллег есть не только технические, но и серьезные организационные наработки. Ведь одно дело — взять готовое техническое решение и начать его использовать, и совсем другое — встроить технологию в повседневную практику и в процедуры оказания медицинской помощи. Зачастую это намного сложнее, чем разработать само техническое решение. В регионе создан единый центр интерпретации и обработки снимков: снимок, сделанный, скажем, в Новом Уренгое, поступает в Салехард, где его анализируют и специалист, и сервисы на базе искусственного интеллекта. Коллеги не стоят на месте: у них много интересных решений, которые, возможно, не заметны жителям напрямую, но существенно повышают эффективность «внутренней кухни». В целом это характерно для большинства технологических решений — их польза редко заметна для жителей.
Как часто поступают идеи и как их анализируют
36:40 Естественно, в регионе ведется системная работа по выявлению идей для внедрения искусственного интеллекта. Губернатор регулярно ставит перед органами власти задачу, что сотрудники должны модернизировать и оптимизировать свою деятельность с помощью современных технологий, в том числе с фокусом на ИИ. Предложения от подразделений поступают постоянно, мы их пытаемся систематизировать. Нередко оказывается, что разные ведомства формулируют похожие запросы, например, просят «помощника» для своей информационной системы. При сопоставлении таких заявок видно, что речь идет об одной и той же задаче: ее эффективнее решить единожды и сделать решение универсальным для всех систем. При этом не все идеи проходят проверку на целесообразность и работоспособность. Иногда задачу можно решить проще за счет обычной автоматизации, без разработки сложных решений и внедрения ИИ.
Как ИИ помогает в сфере безопасности в ЯНАО
38:26 Безопасность — второй флагман наряду со здравоохранением. В этой сфере накоплен большой опыт: его сформировали и региональные службы, и профильные ведомства, и правоохранительные органы. Он подтверждает, что инвестиции в систему видеонаблюдения и сценарии на базе искусственного интеллекта были правильными. Такие решения не просто фиксируют события — в некоторых случаях они помогают их предотвращать. При этом, как и в здравоохранении, техническая реализация — это лишь часть задачи. Гораздо сложнее перестроить последующие рабочие процессы. Например, система может легко идентифицировать стаю бродячих собак, но дальше возникает вопрос: что делать с этой информацией? Допустим, данные передали ответственным лицам, по действующей процедуре они должны оформить заявку в службу отлова, которая обязана выехать в течение двух дней. За это время собак, скорее всего, и след простыл. В то же время технологии — это колоссальное подспорье в работе правоохранительных органов: они существенно помогают в поиске лиц, находящихся в розыске, а также тех, кто портит имущество или совершает иные противоправные действия. Поэтому идей по дальнейшему развитию направления очень много: есть целая очередь задач на доработку. Однако развитие упирается в необходимость не только технической донастройки, но и корректировки самих процессов. Менять устоявшиеся процедуры — задача крайне непростая.
Если есть идеи, куда обращаться?
40:52 Есть стандартные механизмы, например, на сайте департамента есть форма для подачи обращений граждан. Мы, естественно, все поступающие обращения рассматриваем и отвечаем на них. И если видим какие-то предложения, понимаем, что они эффективные и могут быть решены при помощи искусственного интеллекта, конечно, с радостью их реализуем. Притом, пусть это и не связано с основной историей, в округе сейчас появляются ребята, которые занимаются созданием видеороликов с помощью нейросетей. Они нам написали: «Вот мы такую штуку умеем делать». Мы с ними попробовали повзаимодействовать, в том числе для роликов про карту «Морошка», где как раз идет рассказ о ней. Вполне уже тоже интересно — рабочий вариант.
Есть ли риски при внедрении ИИ?
42:13 Риск есть, и не один. Недавно президент Владимир Владимирович Путин в разговоре с умными ребятами поднимал тему: не приведет ли использование искусственного интеллекта к тому, что люди разделятся на две категории. Одни — те, кто овладел технологиями и способен самостоятельно решать задачи, с которыми раньше справлялась целая организация из 100 человек. А другие — те, кто будет просто нажимать кнопки. Пусть на первый взгляд эта проблема выглядит несколько гиперболизированной, но, как мне кажется, рано или поздно такой сценарий может реализоваться. Задача каждого — не оставаться в стороне: сегодня практически в любой профессиональной деятельности так или иначе используются цифровые инструменты, сложно найти сферу, где их нет. Соответственно, те, кто сумеет трансформироваться и приспособиться к новым условиям, сохранят востребованность, пусть даже их деятельность видоизменится. А риск остаться за бортом, потерять доход или работу вполне реален. Есть и связанный с этим риск, что люди перестанут критически мыслить. В последнее время мы сталкиваемся с ситуациями, когда человек просит нейросеть, например, написать письмо, бегло просматривает результат «по диагонали», убеждается, что текст похож на правду, и сразу отправляет. Если речь идет о письме на одну страницу — это одно, но бывает, что нейросеть генерирует объемный документ, скажем, на 30 страниц. Если не валидировать, то есть не проверять тщательно то, что она написала, легко пропустить ошибки или некорректные формулировки. Особенно велик риск, если из-за чрезмерного доверия к ИИ у человека отключается критическое мышление и на основе сгенерированного документа принимается важное решение. Например, по нему могут выделять финансирование на проекты или решать иные жизненно важные вопросы. Поэтому ни в коем случае нельзя терять бдительность: ответственность всегда остается за человеком, который ставит задачу и утверждает результат. С точки зрения разработки информационных систем тоже поменялись «узкие места». Раньше ими были разработчики — те, кто непосредственно пишет код. Сейчас бутылочное горлышко расширилось, и «узкими местами» стали другие этапы: во-первых, качество входных идей (чтобы они были адекватными, а не фантастическими) и, во-вторых, валидация — проверка и осмысление результатов. Мы нередко сталкиваемся с тем, что новую информационную систему можно разработать за неделю, а потом полгода ждать, пока функциональные заказчики ее проверят и «переварят». То есть прежние узкие места сместились, и к этому тоже нужно адаптироваться — это отдельный вызов. Однозначно можно сказать, что ИИ — технология не проходная. Бывает, что на какую-то технологию возлагают большие надежды, а потом она уходит в небытие или остается нишевой историей. Вспомнить хотя бы хайповые проекты вроде 3D-телевизоров или очков виртуальной реальности: когда-то казалось, что скоро все будут ходить в таких очках и мир станет совсем другим. Возможно, для некоторых из этих идей время еще просто не пришло. Но искусственный интеллект уже прошел стадию хайпа. Сейчас это полноценный рабочий инструмент, который так или иначе нужно уметь использовать и специалистам, и всем жителям.
Специалисты регулярно разрабатывают и внедряют новые цифровые сервисы для жителей ЯНАО с учетом местной специфики. «Север-Пресс» изучил актуальную подборку помощников и подготовил подробный гид по чат-ботам.
Читайте «Север-Пресс» в мессенджере «Макс».
0
0
Теги: