В центре внимания сообщества

Подавать пример для улучшения общественной жизни

Лаборатория искусственного интеллекта лондонского Сити прокладывает путь местным органам власти в Канаде (и за ее пределами) к внедрению машинного обучения.

В серии «В центре внимания сообщества» редакторы TDS беседуют с членами сообщества специалистов по данным о захватывающих инициативах, которые помогают продвигать эту область вперед. Сегодня мы рады поделиться разговором Эллиота Ганна с Мэтом Дейли, Мэттом Россом,и Блейк ВанБерлов Лаборатории муниципальных приложений искусственного интеллекта лондонского Сити.

Мэт Дейли (LinkedIn) — директор службы информационных технологий в лондонском Сити. Мэт имеет 20-летний опыт управления в государственном и частном секторе и имел удовольствие работать в пяти различных отраслях. Как предприниматель, Мэт руководил тремя начинающими компаниями. Мэт закончил бакалавриат в Университете Ватерлоо, аспирантуру в области государственного управления в Западном университете и является назначенным специалистом по управлению проектами.

Мэтт Росс (LinkedIn) последние десять лет работает на стыке технологий и общественного блага. Основал некоммерческий технологический стартап, работал независимым подрядчиком по науке о данных и стал соучредителем лаборатории искусственного интеллекта в лондонском Сити. Мэтт получил степень по философии в Гуронском университете и химию в Западном университете.

Блейк ВанБерло (LinkedIn) — основатель VanBerlo Consulting, фирмы, специализирующейся на исследованиях и разработке приложений для машинного обучения. Ранее Блейк получил степень бакалавра в области разработки программного обеспечения в Западном университете, а в настоящее время учится в аспирантуре Школы компьютерных наук Черитона при Университете Ватерлоо.

Собственная лаборатория искусственного интеллекта на муниципальном уровне встречается редко. Я хотел бы узнать больше о команде. Не могли бы вы рассказать, чем занимается лаборатория в лондонском Сити? Как выглядит обычный день?

Муниципальная лаборатория приложений искусственного интеллекта является частью подразделения служб информационных технологий в лондонском Сити. Из-за некоторых кадровых изменений лаборатория находится на переходном этапе. Лаборатория ищет возможности использовать ИИ и аналитику для развертывания недорогих решений с низким уровнем риска для улучшения жизни горожан и/или сотрудников. В настоящее время мы очень маленькая группа, но мы стараемся быть гибкими из-за разного характера разных проектов.

Обычный день лаборатории включает в себя частое общение с заинтересованными сторонами и разработчиками. Заинтересованные стороны обычно являются частью городских служб или связаны с ними. Поскольку наши проекты обусловлены бизнес-требованиями, мы постоянно поддерживаем связь с заинтересованными сторонами по поводу текущих проектов, получаем отзывы и проводим обучение. Разработчики, которые могут быть внутренними сотрудниками или внешними консультантами, проводят дни, работая над проектами в соответствии с меняющимися требованиями, установленными заинтересованными сторонами. Мы также постоянно ищем новые проекты и обращаемся к людям в городе, которые могут быть открыты для сотрудничества.

Статья вы опубликовали с помощью TDS была первой записью в блоге, в которой обсуждался проект, который Лаборатория взяла на себя, чтобы применить машинное обучение к гражданской проблеме (также освещается в CBC). Не могли бы вы рассказать больше о том, как появился этот проект?

Система прогнозирования хронической бездомности действительно была первой инициативой, которую лаборатория предприняла для применения машинного обучения к решению гражданских проблем. Идея проекта возникла у аналитика бизнес-систем, работающего в городе, и родилась она на хакатоне, посвященном поиску возможностей применения машинного обучения. Этот человек тесно сотрудничает с заинтересованными сторонами, заинтересованными в предотвращении бездомности, и ему интересно, можно ли использовать машинное обучение для прогнозирования на основе информации, содержащейся в базе данных Информационной системы бездомных и семей (HIFIS), которая содержит информацию о лицах, получающих доступ к службы бездомных. Затем эта идея превратилась в предсказание хронической бездомности на основе этих записей. Продемонстрировав перспективность этого подхода с помощью небольшого прототипа, мы привлекли заинтересованные стороны к предотвращению бездомности. Обсуждения с ними подчеркнули важность объяснимого машинного обучения. С этого момента проект находился в постоянном итеративном цикле с разработчиками и заинтересованными сторонами.

Мы хотели поделиться этой работой, потому что это влечет за собой потенциальные выгоды для других муниципалитетов. Как муниципальное правительство, мы считаем, что у нас есть долг не только перед Лондоном, но и за благополучие всех сообществ. Проливая свет на нашу работу, мы увеличивали шансы того, что другие муниципалитеты узнают о нашей работе. Наше решение применимо к другим регионам Канады из-за распространенности приложения HIFIS. Чтобы сделать нашу работу максимально доступной, мы включили в репозиторий GitHub подробные инструкции о том, как начать работу с кодом.

Не могли бы вы рассказать нам о нескольких проектах, которые дали многообещающие результаты?

Мы особенно гордимся проектом прогнозирования хронической бездомности. Проект запущен и теперь доступен для социальных работников, которые взаимодействуют с клиентами, нуждающимися в услугах по бездомности.

Еще один проект, которым мы гордимся, — это наша работа по прогнозированию потребности в воде. Учитывая данные о потреблении воды в прошлом, мы разработали модель, которая прогнозирует потребность в воде в масштабах города на ближайшие годы. Эта работа может оказаться полезной при планировании инфраструктуры и бюджетном прогнозировании. Ключевым аспектом этого проекта было то, что модель, которую мы использовали, по своей сути интерпретируема; в результате управление водными ресурсами может лучше понимать свои прогнозы и доверять им.

Как правительство определяет перспективные проекты и приоритизирует их, учитывая ограниченность ресурсов? Как вы согласовываете проекты машинного обучения с более широкими целями правительства?

Муниципалитеты предоставляют широкий спектр услуг; в результате существует несколько потоков для применения машинного обучения. Давняя общая цель правительства состоит в том, чтобы стать более эффективным и действенным. Более качественные ресурсы и более эффективное предоставление услуг напрямую связаны с возможностями для успешных проектов машинного обучения. Поэтому мы оцениваем потенциальные проекты по их способности достичь поставленной цели. Например, интуитивная и повсеместная природа бездомности и безопасности жилья побудила нас применить машинное обучение для улучшения предоставления услуг бездомным.

Как команда работает над снижением рисков, связанных с развертыванием решений ИИ и вмешательств с уязвимостями, связанными с маргинализованными сообществами?

Прежде всего, мы ведем постоянные обсуждения с заинтересованными сторонами для выявления нерешенных рисков. Мы ставим заинтересованные стороны на первое место, гарантируя, что разработка ведется ими, и считаем, что специалисты по обработке и анализу данных должны оказывать поддержку. Например, в нашем первом проекте мы тесно сотрудничали с профилактикой бездомных (менеджерами и социальными работниками), чтобы обеспечить уважительное отношение к данным.

Мы следуем нескольким стратегиям, чтобы отдавать приоритет информационной безопасности и конфиденциальности. Во-первых, мы тесно сотрудничаем с уполномоченным по вопросам конфиденциальности города, чтобы выявить и применить лучшие в своем классе соображения безопасности и конфиденциальности. Мы требуем явного согласия на использование данных и деидентификацию данных, прежде чем они будут доступны разработчикам или отправлены в среду развертывания.

Чтобы определить другие возможные риски, мы стремимся придерживаться Директивы правительства Канады об автоматизированном принятии решений. С этой целью мы заполняем Алгоритмический инструмент оценки воздействия федерального правительства, чтобы определить уровень воздействия наших проектов.

Наконец, мы отдаем приоритет объяснимому машинному обучению для обеспечения прозрачности. Модели, которые не поддаются интерпретации по своей сути, всегда связаны с объяснениями, полученными с помощью метода объяснимости. Объяснения гарантируют, что заинтересованные стороны понимают, почему модели принимают те решения, которые они принимают. Они также могут выявить отклонения, присутствующие в модели, которые могут инициировать последующие итерации разработки.

Есть ли проекты, которые могли бы лучше решаться государственными учреждениями в Канаде, а не коммерческими усилиями в области ИИ и DS?

Некоторые услуги гораздо лучше предоставляются государственными учреждениями, чем частными предприятиями. Мы считаем, что услуги, которые приносят пользу обществу, попадают в эту категорию. На муниципальном уровне это включает доставку чистой питьевой воды, управление сточными водами и общественный транспорт. На провинциальном уровне примеры могут включать здравоохранение, образование, юридические услуги, охрану правопорядка, управление пожарной охраной и аварийно-спасательные службы. Чтобы было ясно, мы не считаем, что частный сектор не может играть роль — мы просто считаем, что некоторые услуги более естественным образом поддаются предоставлению государством.

Еще одно соображение заключается в том, что наборы данных, используемые для проектов, связанных с муниципальными услугами, находятся в пределах государственных границ. Обмен данными — сложная задача, особенно когда личные данные могут быть переданы частным организациям. Кроме того, повсеместное распространение инструментов обработки данных и открытого исходного кода влечет за собой бесплатное использование государственными учреждениями, что снижает зависимость правительств от частного сектора в этих проектах.

Какую роль (роли) вы видите в качестве лидера команды в области науки о данных на благо общества?

Мы считаем себя примером. Мы делимся кодами и методами, полученными в результате наших проектов, с целью помочь другим муниципалитетам внедрить те же инструменты.

Какой вид письма на DS/ML вам нравится и что бы вы хотели видеть чаще?

Нам нравится читать статьи и документы о сквозных проектах машинного обучения, и мы хотели бы, чтобы их было больше. Под «сквозным» мы подразумеваем охват всех этапов проекта машинного обучения: от исследования до развертывания. Сообщество специалистов по данным наводнено учебными пособиями и идеями, но мы редко видим публикации по операционализации, устойчивости и ресурсам.

В каких областях вы надеетесь увидеть дальнейшее развитие сообщества DS/ML в будущем?

В ближайшие месяцы/годы мы надеемся увидеть больший толчок к объяснимому машинному обучению. Достижения в области глубокого обучения позволили создать более мощные и выразительные модели за счет увеличения непрозрачности. В муниципальном управлении прозрачность является ключом к предоставлению равных услуг гражданам. Мы хотели бы видеть больший толчок к применению существующих методов объяснимости, разработке новых методов объяснимости и пересмотру интерпретируемых по своей сути подходов к моделированию.

Мы надеемся, что сообщество уделяет повышенное внимание устойчивости и обслуживанию систем машинного обучения. У нас есть несколько вопросов, касающихся этих тем, на которые мы постоянно ищем ответы относительно текущих и будущих проектов. Каковы наилучшие методы поддержания актуальности систем по мере поступления новых данных? Что, если распределение данных и/или набор функций со временем изменится? Кто поддерживает развернутые системы и как они обслуживаются?

Мы надеемся, что сообщество продолжит придерживаться открытого подхода и этот код будет по-прежнему доступен с открытым исходным кодом. Наши проекты (и, конечно же, проекты других правительств) были бы невозможны без свободно доступных пакетов программного обеспечения для машинного обучения.

Наконец, мы хотели бы видеть более активное стремление к управлению ИИ. Законодательство о развертывании систем предоставления государственных услуг имеет первостепенное значение для справедливого и безопасного предоставления таких услуг.

Хотите узнать больше о науке о данных в муниципальной лаборатории приложений искусственного интеллекта лондонского Сити? Вот две статьи, упомянутые в интервью, в которых представлены подробные тематические исследования проектов, использующих машинное обучение для общественного блага.