"J'ai ressenti de l'agressivité au cours de la conversation, John, veux-tu que je te donne un morceau de Black Eyed Peas pour te détendre?" Lorsque John commence à s'améliorer (il est conscient qu'aimer Black Eyed Peas est devenu ringard, mais son assistant numérique le sait. Je ne peux pas résister), continue la voix électronique. "John, dois-je prendre rendez-vous pour un essai de la voiture que vous avez vue récemment?"
<p class = "canvas-atome-canvas-text Mb (1.0em) Mb (0) – sm Mt (0.8em) – sm" type = "text" content = "Besoins humains, fins commerciales."data-reactid =" 24 ">Besoins humains, fins commerciales.
Ceci est un scénario qui pourrait se produire dans un proche avenir. Qu'Alexa ou Google Assistant gagne la bataille de l'intelligence artificielle (IA) pour envahir son foyer, nous, humains, n'arrêterons pas de développer de nouvelles relations personnelles et émotionnelles avec ces nouveaux appareils.
Cela générera un grand conflit d'intérêts: jouant le double rôle d'accompagnateur et d'assistant commercial, l'assistant numérique cherchera à satisfaire nos besoins émotionnels à des fins commerciales.
Le modèle commercial des principaux assistants numériques repose sur le commerce électronique et la publicité. L'intelligence artificielle apprendra en écoutant des milliards de conversations pour créer de nouvelles méthodes de persuasion efficaces.
Vous pouvez vous rappeler comment Google AI a battu le champion du monde Go en développant des stratégies "divines".
De plus, il ne s'agit pas d'un simple assistant numérique: il sera personnalisé pour des centaines de millions de personnes.
Associée à l'opacité inhérente à l'IA, cette ampleur et cette vitesse ne laissent quasiment aucune place pour le contrôle humain. L'intelligence artificielle transformera les assistants numériques en armées de super vendeurs qui exploitent les relations émotionnelles nouées avec leurs propriétaires.
Mais n'ayez pas peur d'un nouvel avenir dystopique lié à l'IA. Les conflits d'intérêts existent aussi dans le monde humain. Ils sont souvent difficiles à résoudre: à quel point les réglementations de l'ère Obama luttent actuellement pour s'adresser aux institutions financières qui combinent des services de conseil (supposés dans l'intérêt du client) et des services de courtage (dans leur propre intérêt). Cependant, plusieurs exemples peuvent inspirer des politiques publiques.
Pour faire face à ce défi fondamentalement économique, nous devons comprendre comment il est façonné par la technologie et la psychologie humaine. Et si le secteur ne s'autorégule pas, il incombera aux autorités d'intervenir.
<p class = "canvas-atome-canvas-text Mb (1.0em) Mb (0) – sm Mt (0.8em) – sm" type = "text" content = "Dépendance à l’ami du robot."data-reactid =" 33 ">Dépendance à l’ami du robot.
De nombreux analystes prévoient que les assistants numériques dépasseront les utilisateurs dans les quatre prochaines années. Nous parlons à nos ordinateurs depuis longtemps, la plupart du temps par colère ou frustration. Maintenant, nos ordinateurs peuvent répondre et ils sont très amicaux et utiles. Nous en dépendons de plus en plus, même pour des choses aussi triviales que la cuisson d'un œuf.
Et c'est là que réside le danger. Les êtres humains se connectent avec d'autres personnes et ont tendance à l'anthropomorphisme. Notre relation avec les assistants numériques ne sera qu'une relation de plus que nous avons avec nos collègues, voisins, amis et famille.
À la différence que ce sera une personnalité qui nous accompagnera de notre ascension à notre heure du coucher. Les personnes qui les vendent ont compris tout cela et c'est pourquoi ils accordent une grande attention à la personnalité de leurs assistants numériques en ajustant avec soin la manière dont ils seront perçus, afin qu'ils aient l'air sympathique, amical ou compétent.
Dans cet esprit, l'équipe Google Assistant réunit, par exemple, des personnes d'horizons divers, allant des scénaristes aux spécialistes de la propriété intellectuelle, en passant par les écrivains Pixar et les artistes permanents.
Les recherches d'Amnesty International consacrent beaucoup d'énergie à la détection des émotions. Woebot, un chat avec une IA dédiée à la santé mentale, est particulièrement capable de détecter les émotions et d’appliquer des thérapies cognitives et comportementales en conséquence.
Vos futurs assistants numériques apprendront sur vous en observant votre approche de la porte de votre maison, en détectant vos expressions faciales tout en regardant la caméra de sécurité ou en analysant l'intonation de votre voix lorsque vous ajustez votre éclairage. .
Ils vont dire «bonjour» et les considèrent plus comme des personnes que comme des machines. Ce sera également bon pour vos enfants. Les mots Magic Word (mot magique) d'Amazon et les fonctions Pretty Please de Google sont officiellement conçus pour encourager les bonnes manières de leurs petits enfants, mais ils leur apprennent également à penser au magicien en tant que quelqu'un avec qui ils devraient être éduqués.
<p class = "canvas-atome-canvas-text Mb (1.0em) Mb (0) – sm Mt (0.8em) – sm" type = "text" content = "L'opération sombre dans "boîte noire""data-reactid =" 45 ">L'opération sombre dans "boîte noire"
Il dit que John accepte d'aller voir la voiture après sa mauvaise journée. Apparemment, les données non liées ont permis à l'IA de prédire qu'elle serait probablement d'accord. Des mois et des mois d'encouragement discret (souvent parfois choisi parce qu'il était très vulnérable) ont nourri ses désirs.
Son assistant numérique lui rappelle que ses voisins ont une nouvelle voiture, que sa belle-mère serait fière de voir sa fille dans une belle grosse voiture et que son fils adorerait l'une de ses particularités.
L’assistant a déjà trouvé un prêt auto intéressant et a calculé qu’il serait probablement approuvé. Très vite, John trouve une nouvelle voiture (et un crédit à l'arrière), simplement parce que l'IA a établi une relation avec lui, a nourri ses désirs et a su intervenir à tout moment.
Les humains ne pourraient-ils pas simplement surveiller l'IA pour identifier et prévenir les comportements potentiellement destructeurs? Non. La stratégie de l'IA est opaque, car elle ne repose pas uniquement sur le code, mais essentiellement sur une opération "boîte noire".
Pour surveiller, n'importe qui doit surveiller des milliers d'interactions pendant des mois entre le "propriétaire" et l'assistant. De plus, les êtres humains chargés de la supervision dépendront de l'IA elle-même pour indiquer son possible abus (et même si un problème est détecté, anticiper les résultats de l'ajustement d'une fonction objective est incroyablement complexe).
Surtout, traiter le monopole ou l'oligopole des grandes entreprises technologiques ne résoudra pas le problème. Si plusieurs sociétés financières qui combinent des services d'intermédiation et de conseil se font une vive concurrence, cela n'élimine pas le conflit d'intérêts existant au sein de chaque société.
<p class = "canvas-atome-canvas-text Mb (1.0em) Mb (0) – sm Mt (0.8em) – sm" type = "text" content = "Laisse aller laisse laisse"data-reactid =" 52 ">Laisse aller laisse laisse
Comment pouvons-nous alors gérer ce nouveau conflit d'intérêts au XXIe siècle? Trois scénarios sont possibles.
Le premier est l’autorégulation: des entreprises telles que Google et Amazon reconnaissent les conflits d’intérêts et séparent leurs assistants numériques de leurs activités en ligne. Pour ce faire, ils pourraient, par exemple, créer des filiales indépendantes. En outre, les entreprises moins liées à ce modèle basé sur le commerce électronique, telles que Samsung ou Apple, pourraient accroître leur part de marché.
Le PDG de Google demande l’autoréglementation de l’entreprise # IA – https://t.co/sen22feIJH @CB_News #Digital
Toutefois, si l'on veut être réaliste, les précédents historiques suggèrent qu'il est peu probable que ce type d'autorégulation fonctionne réellement: il suffit de regarder le secteur financier ou publicitaire.
En outre, des sociétés comme Amazon, dont les assistants numériques à des prix raisonnables dominent le marché, auront accumulé une telle quantité de données qu’elles bénéficieront d’un avantage technique. Enfin, comment Samsung ou Apple pourraient-ils concurrencer Google et Amazon sans le commerce électronique?
Dans le deuxième scénario, les sociétés libertaires se précipitent pour inonder nos salons et les chambres de nos enfants d’une armée de robots pour extraire l’or, alors que les autorités restent passives. Malheureusement, l'optimisme technologique n'a pas toujours bien servi la société.
Ce qui conduit au troisième scénario: la régulation. Ceux qui participent à la législation peuvent anticiper ces problèmes, suivre leur évolution et, le cas échéant, prendre des mesures pour lutter contre les conflits d'intérêts. Les assistants numériques continuent d'évoluer. Par conséquent, nous avons suffisamment de temps pour développer des solutions créatives. À long terme, il aidera également les entreprises en leur fournissant un environnement stable.
Les réglementations qui protègent les groupes vulnérables, tels que les enfants, sont les plus faciles à mettre en œuvre. De nombreux pays dans le monde limitent les publicités pour des collations pour enfants.
<p class = "canvas-atome-canvas-text Mb (1.0em) Mb (0) – sm Mt (0.8em) – sm" type = "text" content = "Besoin de régulation."data-reactid =" 61 ">Besoin de régulation.
Dans le passé, les technologies avaient déjà conduit à une législation pour protéger les enfants. Aux États-Unis, les autorités ont réglementé un peu la publicité télévisée destinée au jeune public et, depuis 2000, les sociétés informatiques doivent obtenir une autorisation parentale pour collecter des données identifiables sur les enfants de moins de 13 ans. .
Malheureusement, lorsque les PDA sont apparus en 2017, la Federal Trade Commission a assoupli ses réglementations pour permettre la collecte de données pour de nombreuses commandes vocales, ce qui pose un problème particulier dans la mesure où Amazon peut reconnaître les voix d'une maison.
Mais quelle réglementation peut aider John, qui vient de passer une mauvaise journée de travail? Une idée largement adoptée aux États-Unis au début du XXe siècle a récemment attiré l’intérêt des universitaires et de la presse: traiter les plates-formes comme des services publics.
Pour les assistants numériques, il s'agirait de définir clairement quand leurs activités sont celles d'un assistant personnel et quand ils contribuent aux objectifs marketing de la société qui les commercialise. Comment
<p class = "canvas-atome-canvas-text Mb (1.0em) Mb (0) – sm Mt (0.8em) – sm" type = "text" content = "La machine pour les deux AI"data-reactid =" 66 ">La machine pour les deux AI
Une solution simple consisterait à externaliser les activités de l’assistant numérique de Google et d’Amazon auprès d’affiliés. Nous pourrions également imaginer un assistant numérique avec deux IA indépendantes, afin que John puisse établir des relations avec deux intelligences artificielles aux personnalités et aux objectifs très différents: "Alexa" céderait la place au représentant des ventes "Jeff" et à la bonne amie "Annabelle".
Bien entendu, ce moyen de voix devrait nous permettre de savoir à quelle personnalité nous nous adressons. Cela existe déjà en ligne: lorsque vous effectuez une recherche normale, Google indique clairement que certains résultats sont des annonces, tandis que les autres liens ne sont pas censés être commerciaux.
Une troisième option serait d'imposer aux assistants numériques de travailler avec l'IA de différents concepteurs (l'IA aurait accès aux données clés, ce qui permettrait un traitement équitable) parmi ceux que John pourrait choisir.
"J'ai ressenti de l'agressivité au cours de la conversation, John, veux-tu que je te donne un morceau de Black Eyed Peas pour te détendre?" Quand John commence à s'améliorer (il est conscient qu'aimer Black Eyed Peas est devenu un nerd, mais sa conseillère en informatique numérique, Annabelle , il sait qu’il ne peut pas résister), continue la voix électronique, "John, tu n’as pas appelé ton frère depuis longtemps, est-ce que je dois composer son numéro?"
Un peu plus tard, il demande à son assistant commercial numérique, Jeff, de lui ordonner de manger. Après avoir couru, Jeff lui demande s'il devrait prendre rendez-vous pour essayer une nouvelle voiture que John a vue récemment. Mais Juan ne l'écoute pas vraiment. Il demande à Annabelle de lui donner un autre morceau.
test
4.8 percent=89% 245 votes