Узнайте, как интегрировать методы ответственного ИИ в рабочий процесс машинного обучения с помощью TensorFlow.
TensorFlow стремится помочь добиться прогресса в ответственной разработке ИИ, делясь набором ресурсов и инструментов с сообществом ML.
Что такое ответственный ИИ?
Развитие ИИ создает новые возможности для решения сложных реальных проблем. Это также поднимает новые вопросы о том, как лучше всего создавать системы искусственного интеллекта, которые принесут пользу всем.
Рекомендуемые лучшие практики для ИИ
При проектировании систем искусственного интеллекта следует следовать передовым практикам разработки программного обеспечения, уделяя при этом внимание человеку.
подход к МО
Справедливость
Поскольку влияние ИИ возрастает во всех секторах и обществах, крайне важно работать над созданием систем, которые будут справедливыми и инклюзивными для всех.
Интерпретируемость
Понимание систем искусственного интеллекта и доверие к ним важно для обеспечения их правильной работы.
Конфиденциальность
Модели обучения на основе конфиденциальных данных требуют мер по сохранению конфиденциальности
Безопасность
Выявление потенциальных угроз может помочь обеспечить безопасность и надежность систем искусственного интеллекта.
Ответственный ИИ в вашем рабочем процессе машинного обучения
Ответственные практики искусственного интеллекта могут применяться на каждом этапе рабочего процесса машинного обучения. Вот несколько ключевых вопросов, которые следует рассмотреть на каждом этапе.
Для кого предназначена моя система машинного обучения?
То, как реальные пользователи взаимодействуют с вашей системой, важно для оценки истинного влияния ее прогнозов, рекомендаций и решений. Обязательно получите информацию от различных пользователей на ранних этапах процесса разработки.
Использую ли я репрезентативный набор данных?
Отбираются ли ваши данные таким образом, чтобы отражать ваших пользователей (например, будут использоваться для всех возрастов, но у вас есть данные об обучении только пожилых людей) и реальные условия (например, будут использоваться круглый год, но у вас есть только обучение? данные за лето)?
Есть ли в моих данных реальная/человеческая предвзятость?
Скрытые искажения в данных могут способствовать возникновению сложных циклов обратной связи, которые укрепляют существующие стереотипы.
Какие методы следует использовать для обучения моей модели?
Используйте методы обучения, обеспечивающие справедливость, интерпретируемость, конфиденциальность и безопасность модели.
Как работает моя модель?
Оценивайте пользовательский опыт в реальных сценариях для широкого спектра пользователей, вариантов использования и контекстов использования. Сначала тестируйте и тестируйте тестовую версию, а затем продолжайте тестирование после запуска.
Существуют ли сложные петли обратной связи?
Даже если все в общей конструкции системы тщательно продумано, модели на основе машинного обучения редко работают со 100%-ным совершенством при применении к реальным, живым данным. Когда проблема возникает в работающем продукте, подумайте, соответствует ли она каким-либо существующим социальным недостаткам и как на нее повлияют как краткосрочные, так и долгосрочные решения.
Ответственные инструменты искусственного интеллекта для TensorFlow
В экосистеме TensorFlow есть набор инструментов и ресурсов, которые помогут решить некоторые из вышеперечисленных вопросов.
Определить проблему
Используйте следующие ресурсы для разработки моделей с учетом ответственного ИИ.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_pair-guidebook.jpg?hl=ru)
Узнайте больше о процессе разработки ИИ и основных моментах.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explorable-bias.jpg?hl=ru)
Изучите с помощью интерактивной визуализации ключевые вопросы и концепции в области ответственного ИИ.
Создайте и подготовьте данные
Используйте следующие инструменты для проверки данных на предмет потенциальных ошибок.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_know-your-data.jpg?hl=ru)
Интерактивно исследуйте свой набор данных, чтобы улучшить качество данных и устранить проблемы справедливости и предвзятости.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-data-validation.jpg?hl=ru)
Анализируйте и преобразуйте данные для выявления проблем и разработки более эффективных наборов функций.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_data-cards.png?hl=ru)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/title_responsible-ai.jpg?hl=ru)
Более инклюзивная шкала телесных тонов с открытой лицензией, позволяющая сделать сбор данных и построение моделей более надежными и инклюзивными.
Сборка и обучение модели
Используйте следующие инструменты для обучения моделей, используя сохраняющие конфиденциальность, интерпретируемые методы и многое другое.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-remediation-library.jpeg?hl=ru)
Обучайте модели машинного обучения для достижения более справедливых результатов.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-privacy.jpg?hl=ru)
Обучайте модели машинного обучения с соблюдением конфиденциальности.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-federated.jpg?hl=ru)
Обучайте модели машинного обучения, используя методы федеративного обучения.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_constrained-optimization.jpg?hl=ru)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_lattice.jpg?hl=ru)
Реализуйте гибкие, контролируемые и интерпретируемые модели на основе решеток.
Оценить модель
Отлаживайте, оценивайте и визуализируйте производительность модели с помощью следующих инструментов.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_fairness-indicators.jpg?hl=ru)
Оцените общеизвестные показатели справедливости для бинарных и многоклассовых классификаторов.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-analysis.jpg?hl=ru)
Оценивайте модели распределенным образом и вычисляйте различные фрагменты данных.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_what-if-tool.jpg?hl=ru)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_language-interpretability-tool.png?hl=ru)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explainable-ai.jpg?hl=ru)
Разрабатывайте интерпретируемые и инклюзивные модели машинного обучения.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tf-privacy-testing.png?hl=ru)
Оцените свойства конфиденциальности моделей классификации.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorboard.png?hl=ru)
Развертывание и мониторинг
Используйте следующие инструменты для отслеживания и обмена информацией о контексте и деталях модели.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model_card_toolkit.png?hl=ru)
С легкостью создавайте карточки моделей с помощью набора инструментов Model Card.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_ml-metadata.jpg?hl=ru)
Записывайте и извлекайте метаданные, связанные с рабочими процессами разработчиков машинного обучения и специалистов по данным.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model-cards.jpg?hl=ru)
Организуйте основные факты машинного обучения в структурированном виде.
Ресурсы сообщества
Узнайте, чем занимается сообщество, и изучите способы принять в нем участие.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_crowdsource.jpg?hl=ru)
Помогите продуктам Google стать более инклюзивными и отражающими ваш язык, регион и культуру.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tensorflow.jpg?hl=ru)
Мы попросили участников использовать TensorFlow 2.2 для создания модели или приложения с учетом принципов ответственного ИИ. Посетите галерею, чтобы увидеть победителей и другие потрясающие проекты.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tf-dev-summit.jpg?hl=ru)
Представляем основу для размышлений об МО, справедливости и конфиденциальности.