Réagir
Un code d'éthique pour l'utilisation des intelligences artificielles
BMW dicte ses 7 principes sur l'utilisation des IA
Des applications à tous les niveaux, depuis la R&D jusqu'aux assistances de conduite
En 1942, l'auteur de science-fiction Isaac Asimov formulait les Trois lois de la robotique auxquelles tous les robots apparaissant dans ses romans devaient obéir.
- loi numéro 1 : un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu'un être humain soit exposé au danger ;
- loi numéro 2 : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
- loi numéro 3 : un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.
Près de 80 ans plus tard, la réalité commence à rattraper la fiction alors que l'intelligence artificielle prend une place de plus en plus large dans la vie de tous les jours et dans l'industrie et arrive de plus en plus dans les autos ainsi que dans les motos quand on voit toutes les assistances électroniques désormais de série et en option dans les derniers modèles BMW comme la 1250 RT.
Face à cet essor et l'utilisation centrale d'intelligences artificielles au sein de ses activités, le groupe BMW vient à son tour de définir un code d'éthique relatif à l'utilisation et au fonctionnement de celles-ci à travers son "Project AI".
Michael Würtenberger, directeur du projet :
L'IA est une technologie clé dans notre processus de transformation numérique, mais pour nous, l'accent reste mis sur les personnes. L'IA accompagne nos collaborateurs et améliore l'expérience client. Nous procédons avec détermination et prudence dans l'expansion des applications d'IA au sein de l'entreprise. Les sept principes de l'IA du groupe BMW constituent la base de notre approche.
Le groupe allemand s'est ici appuyé sur les exigences fondamentales formulées par l'Union européenne pour mettre en place une IA digne de confiance à travers ses sept principes d'utilisation qui seront continuellement adaptés aux besoins.
- Agence humaine et surveillance : les décisions prises par l'IA restent sous surveillance humaine afin d'examiner et d'annuler les décisions algorithmiques en cas de besoin
- Robustesse technique et sécurité : le groupe vise à développer des applications d'IA robustes en respectant les normes de sécurités destinés à réduire les erreurs involontaires et les risques.
- Confidentialité et gouvernance des données : les mesures de confidentialité et de sécurité des données sont étendues pour couvrir le stockage et le traitement par les applications d'IA
- Transparence : application d'une communication ouverte pour expliquer le fonctionnement de l'IA et le champs d'action de celles-ci
- Diversité, non-discrimination et équité : le groupe s'efforce de créer des applications équitables qui respectent la dignité humaine.
- Bien-être environnemental et sociétal : les applications d'IA doivent favoriser le bien-être des clients, employés et partenaires, rejoignant les objectifs du groupe en matière de droits de l'homme, de développement durable et de protection de l'environnement.
- Responsabilité : Les applications d'IA doivent fonctionner de manière responsables.
Aujourd'hui, le groupe BMW s'appuie sur des applications d'intelligence artificielle à tous les niveaux, depuis la recherche et développement, jusqu'à l'après-vente en passant par la production et la logistique. C'est par exemple le cas pour optimiser la consommation d'énergie, de permettre aux assistants des véhicules d'employer un langage "naturel", de mettre en place des étapes de production autonome ou encore sur certains types d'assistances à la conduite.
La mise en place de ce code déontologique traduit ainsi la volonté de BMW d'accroître son utilisation des IA à tous les niveaux. C'est d'ailleurs une étape qui semble incontournable avant l'arrivée des véhicules totalement autonomes durant la prochaine décennie.
Commentaires
On est une société qui marquer par le film 2001, où un ordinateur décide de tuer l'équipage qu'il juge ne lui servir à rien.
15-10-2020 10:21Mais en fait le mot IA est fort car ça ne restera que des aides à la conduite.
Les véhicules autonomes se feront, mais leur pleins potentiel n'existera que sur des voies qui leur ai réservé.
Sur une route classique ou ils croiseront des humains ils seront programmé pour faible vitesse et aucun problème.
Alors que sur une route réservé aux véhicules autonomes ça pourra rouler à 200 ou plus en toute sécurité.
Je suis certain que ça va régler définitivement le problème.
15-10-2020 11:12La porte est ouverte sur un futur incertain, que je ne connaitrais pas.
15-10-2020 14:28Ca m'évite de fantasmer...
Ils feraient mieux de pratiquer un code d'éthique sur le prix de vente de leurs motos ainsi que des options chez BMW...
15-10-2020 17:47Ca ressemble à une information publicitaire...
16-10-2020 08:39C'est bien connu que BMW fait tout mieux que les autres surtout question prix.
Si on décortique :
- les décisions prises par l'IA restent sous surveillance humaine afin d'examiner et d'annuler les décisions algorithmiques en cas de besoin Le conducteur pourra donc gérer à sa guise le fonctionnement moteur puisqu'il surveille et peut annuler les décisions....
- le groupe vise à développer des applications d'IA robustes en respectant les normes de sécurités destinés à réduire les erreurs involontaires et les risques Là ça ne veut pas dire grand chose, il faut différencier le hard du soft. Sur le hard BMW a d'énormes progrès à faire tant la fiabilité légendaire a tout d'une légende. Quant au soft, un bug reste un bug et il n'y a aucune garantie sur le soft.
- les mesures de confidentialité et de sécurité des données sont étendues pour couvrir le stockage et le traitement par les applications d'IA. Là on est dans l'enfumage puisque personne ne peut garantir que le données stockées ne seront pas volées. Tous les systèmes informatique étant violables.
- application d'une communication ouverte pour expliquer le fonctionnement de l'IA et le champs d'action de celles-ci. On sera sans doute loin de tout savoir sur l'IA, son champ d'action et ses interventions possibles.
- non-discrimination et équité : le groupe s'efforce de créer des applications équitables qui respectent la dignité humaine. Ouf l'IA ne fera pas de différence entre un homme et une femme ni entre un pilote de GP et un pilote lambda
- les applications d'IA doivent favoriser le bien-être des clients, employés et partenaires, rejoignant les objectifs du groupe en matière de droits de l'homme, de développement durable et de protection de l'environnement.Difficile de ne pas être dans l'air du temps.
- Responsabilité : Les applications d'IA doivent fonctionner de manière responsablesLà je ne comprends pas tout, de quelle responsabilité parle-t-on ? L'IA ne fonctionnera qu'en fonction des algorithmes qui auront été développés par le constructeur ou validés par lui. C'est donc de sa responsabilité que l'IA fonctionne de manière responsable.
Au final, belle campagne de communication qui n'apporte rien si ce n'est de la pub pour BM
Le bien être des clients, employés et con sort de ce corps ! Mouaiff ! Mouaiff ! Mouaiff!
16-10-2020 18:16Pas sûr que ce soit l'extase à tous les étages !
Si déjà, BMW amenait l'Intelligence Biologique dans ses concessions, ce serait un bon début. Parce que dans ma concession locale, c'est pas terrible de ce côté là 🤣
17-10-2020 10:48