5 правил, которым мы должны следовать при создании искусственного интеллекта

5 правил, которым мы должны следовать при создании искусственного интеллекта

Какие правила нужно соблюдать, чтобы добиться успеха в создании искусственного интелекта? Рассказывает генеральный директор Microsoft Сатья Наделла.

1. Помощь людям

Многие опасаются развития искусственного интеллекта, утверждая, что он может когда-нибудь не только помочь людям, но и лишить их независимости. По словам Сатья Наделлы, все программное обеспечение должно создаваться с целью избавить людей от сложной и опасной работы. Наделла утверждает, что правильно написанная программа не сможет взять под контроль человеческую жизнь сама по себе. По его мнению, при создании программного обеспечения AI (искусственного интеллекта) одной из основных его функций должна быть опция аварийного отключения системы.

2. Прозрачность

По словам Наделы, опасения по поводу развития искусственного интеллекта во многом вызваны неправильным пониманием пользователями принципов, на которых основаны эти системы. Поэтому такое программное обеспечение должно быть прозрачным и простым в использовании. В противном случае страх перед искусственным интеллектом не только возрастет, но и никогда не будет полностью развеен. Системы, основанные на технологии глубокого обучения, включая многие системы, известные как искусственный интеллект, требуют постоянного доступа к огромным объемам данных, которые они смогут обрабатывать. Без сотрудничества с людьми их возможности останутся ограниченными. «Взаимодействие людей и программного обеспечения должно основываться не только на встраивании знаний о людях в программы, но и на обучении общественности работе с программами», — подчеркивает директор Microsoft.

3. Уважение к культуре

Это правило очень близко работает с первым правилом. Разработчики программного обеспечения должны помнить, что общества во всем мире не одинаковы и могут сильно отличаться не только друг от друга, но и внутри себя. Правильно созданная система — когда задается вопрос — должна включать в ответ не только объективно лучшую версию, но и пытаться найти ее в среде пользователя.

4. Защита конфиденциальности

В век Интернета защита персональных данных — одна из самых серьезных проблем, с которыми сталкиваются разработчики программного обеспечения. Даже небольшое нарушение безопасности может вызвать, например, возможность взлома банковского счета. Вот почему, по мнению Сатьи Наделы, искусственный интеллект должен не только тщательно охранять данные, но и знать, с кем он может ими поделиться. По его мнению, только так общество сможет укрепить доверие к системе, необходимое для ее правильной работы.

5. Беспристрастность

Этот принцип больше всего применим к самим разработчикам программного обеспечения. Сатья Наделла подчеркивает, что их роль будет заключаться в создании программ, защищающих объективность. Нетрудно представить себе ситуацию, когда программное обеспечение будет дискриминировать часть населения из-за неправильного написания. Роль программистов будет заключаться в том, чтобы как можно быстрее находить и исправлять уязвимости.

Добавить комментарий