Nos comptes bancaires sont-ils en sécurité ? Nos maisons sont-elles sûres ? Nos systèmes téléphoniques sont-ils sécurisés ? Ce sont des questions que nous nous posons quotidiennement et, malgré la grande méfiance à l’égard de la sécurité de la technologie, lorsque nous avons besoin d’aide pour une livraison ou un service, nous donnons sans aucun doute des données personnelles aux chatbots.
A propos de l'auteur
Ryan Lester, directeur principal, technologies d'expérience client chez LogMeIn.
Les chatbots ont été conçus pour nous faciliter la vie, avec de simples questions de vérification, ils peuvent répondre aux demandes courantes du service client sans avoir besoin d'attendre un agent. Mais avec l’avènement du RGPD, il est important pour les organisations d’informer leurs clients de la manière dont les données que nous fournissons sont alimentées par l’intelligence artificielle (IA) et stockées. Dans cette nouvelle ère de technologie des chatbots et de réglementation des données, les entreprises doivent se placer sous le même contrôle que les clients et les régulateurs.
La transparence génère la confiance
Alors que les entreprises continuent de découvrir de nouvelles utilisations de la technologie basée sur l’IA, le thème de l’éthique et de la transparence devient de plus en plus populaire. La plupart des organisations utilisent cette technologie pour améliorer l'expérience utilisateur, mais parmi dix exemples de technologie, il y aura toujours quelqu'un qui cherchera à en tirer parti. Par exemple, utiliser des chatbots automatisés pour collecter des données personnelles auprès des clients et les utiliser ensuite à des fins pour lesquelles elles n'étaient pas initialement destinées. Dans cette optique, il est important que ceux qui l’utilisent pour les bonnes raisons communiquent efficacement sur leur utilisation éthique de la technologie.
Dans une enquête récente de l'Institut de recherche Capgemini, environ trois consommateurs sur cinq qui considéraient leurs interactions avec l'IA avec une entreprise comme éthiques ont déclaré qu'ils avaient plus confiance en cette entreprise, étaient plus susceptibles de raconter aux autres leurs expériences positives et étaient plus fidèles à celle-ci. entreprise. En responsabilisant les clients et en leur donnant le contrôle et la possibilité de demander réparation grâce à l'utilisation de l'IA et de la technologie des chatbots, les entreprises sont plus susceptibles de voir le retour de la confiance de leurs clients.
Il est tout aussi important que les entreprises communiquent avec leurs collaborateurs sur l’utilisation de l’IA et de la technologie des chatbots. Lorsque l'Institut de recherche Capgemini a interrogé les employés, ils ont constaté que 44 % d'entre eux se disaient préoccupés par l'utilisation potentiellement dangereuse des systèmes d'IA et 42 % s'opposaient à l'utilisation abusive des informations personnelles par les systèmes d'information. IA. Pour résoudre et prévenir les problèmes, les DSI et les décideurs informatiques doivent s’assurer qu’ils disposent d’un code de conduite clair pour une IA éthique et qu’ils sont transparents quant à leur utilisation de l’informatique. 'L'IA dans l'entreprise. A terme, cette technologie a pour vocation de faciliter la vie des salariés !
Les préjugés de l’IA l’emportent-ils sur nous ?
L’utilisation croissante de l’intelligence artificielle pour les informations sensibles, notamment en matière de recrutement et de soins de santé, a suscité de nombreux débats sur les préjugés et l’équité. Cependant, la prise de décision humaine dans ces domaines et dans d’autres peut également être imparfaite, façonnée par des préjugés individuels et sociaux qui sont souvent extérieurs. Bien qu'il existe de nombreux cas dans lesquels l'IA peut réduire l'interprétation subjective des données par les humains, nous devons nous rappeler que les algorithmes des chatbots sont dérivés de données publiques, notamment d'articles de presse et de médias sociaux. En utilisant des données publiques sans freins et contrepoids, l’intelligence artificielle peut intégrer les pires caractéristiques de l’humanité et finir par incarner les préjugés de la société.
Diverses approches ont vu le jour pour appliquer des contraintes d’équité aux modèles d’IA, mais il reste encore un long chemin à parcourir. Une partie de ces travaux s'est concentrée sur des processus et des méthodes, tels que les « fiches de données pour les ensembles de données » et les « feuilles de modèles pour les rapports de modèles », qui créent plus de transparence dans la construction, les tests et les utilisations prévues des ensembles de données et des modèles d'IA. D'autres efforts se sont concentrés sur la mise en œuvre d'évaluations et d'audits pour vérifier l'équité avant de mettre en œuvre les systèmes et de les examiner de manière continue. Tous ces efforts doivent être accompagnés de campagnes éducatives continues pour favoriser une meilleure compréhension des cadres juridiques stricts qui accompagnent l'utilisation de l'intelligence artificielle et la disponibilité croissante d'outils pour améliorer l'équité.
Encore une fois, la transparence est essentielle lorsqu’il s’agit de l’utilisation de l’IA et des chatbots dans les services clients. Il est essentiel que les entreprises comprennent les limites de l’IA et soient capables de communiquer en termes simples que l’IA n’est pas là pour remplacer complètement les humains. Quels que soient les développements futurs, l’IA manquera toujours de la caractéristique spécifiquement humaine de l’intelligence émotionnelle. Par conséquent, pour chaque utilisation de l’IA, il y aura toujours un humain pour gérer les commandes et les clients doivent s’assurer que cela ne change pas.
Soyez délibéré avec la technologie.
Alors que la technologie de l’IA et des chatbots continue d’évoluer, les industries doivent se préparer aux nouveaux défis et critiques qui en découleront inévitablement. Les entreprises ne devraient pas craindre cette technologie, elles devraient profiter des opportunités innovantes et passionnantes qu’elle présente. L’IA est une technologie en développement rapide et n’attendra pas l’indécision. Les entreprises doivent s’assurer qu’elles l’utilisent de manière délibérée et transparente sur la manière dont elles l’utilisent. S’ils le peuvent, les clients vous feront confiance, à vous et à votre chatbot !