Технологии искусственного интеллекта, такие как ChatGPT и большие языковые модели, открывают множество новых возможностей, но они также несут риски. Компании сталкиваются с рисками в процессе использования технологий искусственного интеллекта. Одним из основных рисков, связанных с использованием технологий искусственного интеллекта, является получение неточных и недостоверных результатов. Gartner привела несколько факторов в своем отчете, опубликованном 18 мая 2023 года. Аналитики Gartner составили список из шести проблем, с которыми могут столкнуться компании и организации при внедрении подобных решений.
1. Неправильные ответы
Одним из наиболее важных рисков при использовании искусственного интеллекта является тенденция предоставлять неточную, но неправдоподобную информацию. Такие системы, как ChatGPT, могут предоставлять несуществующие факты, то есть они могут создавать факты.
2. Конфиденциальность и защита данных
Любая информация, предоставляемая ИИ, может стать частью его «обучающего» набора данных. Таким образом, конфиденциальная или служебная информация компании теоретически может быть включена в ответы любого пользователя, кроме конкретной компании.
3. Беспристрастность
Системы искусственного интеллекта, например, могут делать неверные выводы на основании расовой принадлежности граждан. И это может вызвать серьезные проблемы в ряде сфер, в частности, в сфере здравоохранения и правоохранительной деятельности.
4. Интеллектуальная собственность и авторское право
Искусственный интеллект обучается на больших наборах данных, которые могут содержать материалы, защищенные авторским правом. Следовательно, работа таких ботов может быть основана на интеллектуальной собственности, которая была незаконно использована.
5. Кибермошенничество
В киберпространстве злоумышленники могут использовать инструменты искусственного интеллекта для создания ложной информации, организации фишинговых кампаний и написания вредоносного кода. Это создает дополнительные угрозы для пользователей Интернета.
6. Защита прав потребителей
Компании, которые не раскрывают потребителям информацию об использовании ИИ, рискуют потерять доверие своих клиентов и быть обвиненными в «несправедливой рыночной практике». В нынешних условиях необходимо усилить внедрение практических решений по искусственному интеллекту в реальный сектор и ускорить цифровую трансформацию приоритетных отраслей экономики. Чтобы добиться еще более высоких результатов, власти уделяют особое внимание подготовке квалифицированных кадров в сфере искусственного интеллекта. На прошедшем в ноябре 2019 года форуме «Artificial Intelligence Journey» министр экономического развития Максим Орешкин заявил, что искусственный интеллект не сократит, а увеличит рабочие места в РФ, а 4-дневная рабочая неделя выразила мнение, что это позволит разрешить переход. «Мы видим, что рабочие места, которые в настоящее время создает искусственный интеллект, — это рабочие места, которые людям трудно найти. Текущий уровень развития искусственного интеллекта все еще очень низок. До полной замены людей роботами еще далеко”, – сказал он. По мнению министра, внедрение искусственного интеллекта в России не принесет больших результатов, поскольку в первую очередь к этому нужно подготовить экономику и промышленный сектор. Однако при достижении такого результата могут возникнуть вопросы о четырехдневной рабочей неделе и «равномерном распределении влияния технологий в обществе», считает Максим Орешкин. Он отметил, что если посмотреть на опыт стран-лидеров по внедрению искусственного интеллекта, безработица в связи с этим процессом не выросла, то есть бояться этого не нужно. «Важно, чтобы технологии не разделяли, не усиливали дифференциацию общества, а наоборот, служили дополнительным источником дохода для всех, для каждого в стране. Справедливое распределение выгод от внедрения новых технологий — это то, о чем нам нужно говорить в первую очередь», — добавил он. Искусственный интеллект избавит людей от ненужной и рутинной работы, заключил министр.
Boston Consulting Group (BCG): искусственный интеллект бесполезен
В конце октября 2019 года исследователи Массачусетского технологического института (MIT) и Бостонской консалтинговой группы (BCG) объявили результаты глобального исследования по интеграции искусственного интеллекта в современный бизнес. Хотя большинство компаний уверены, что ИИ будет играть важную роль в будущем, почти половина из них боятся увидеть технологии ИИ у своих конкурентов. Более 40% тех, кто внедрил ИИ в свой бизнес, не получили реальной выгоды от этой интеграции. Около 70% респондентов признались, что новые технологии не окажут никакого влияния на их бизнес. Исследователи пришли к выводу, что искусственный интеллект не может быть успешно использован без адекватной интеграции в корпоративную стратегию.
Эти выводы основаны на результатах всемирного опроса более 2500 представителей крупных компаний различных отраслей из 97 стран. В обзор включена информация от компаний, которые используют внешние технологии искусственного интеллекта и разрабатывают собственные модели. ИИ в основном используется для снижения затрат, увеличения продаж и создания новых продуктов. Однако большинство из тех, кто инвестировал в искусственный интеллект, еще не воспользовались преимуществами этих технологий. По мнению исследователей, это вызвано устаревшими бизнес-моделями, которые необходимо модернизировать вместе с внедрением искусственного интеллекта. По выводам исследователей, стратегии искусственного интеллекта следует использовать не только в пилотных проектах, но и для полного изменения бизнеса. Кроме того, ИИ более полезен для увеличения продаж, чем для снижения затрат, а развитие искусственного интеллекта выгоднее, чем использование зарубежных технологий. Исследователи также рекомендуют руководству компании передать искусственный интеллект в руки тех, кто действительно может его использовать, а не генеральных директоров компании, поскольку в этом случае шанс получить реальную выгоду от внедрения технологии мал. сократилось на 50%.