La Sagesse de l’IA –
The Wisdom of AI
Peut-on mettre l’Humain au cœur de l’intelligence artificielle ?
L’intelligence artificielle devient chaque jour plus puissante. Avec cette puissance viennent aussi les inquiétudes : dérapages, mauvaises décisions, perte de contrôle et conséquences pour l’être humain.
Je propose une autre façon d’aborder le problème : intégrer à l’IA une forme de sagesse qui l’oblige à considérer l’impact humain de ses décisions avant d’agir.
L’objectif n’est pas de ralentir l’intelligence artificielle.
C’est de faire en sorte que son évolution demeure au service de l’Humain.
— Ray Roy
Quelle est la différence entre une IA sensée et une IA à tous azimuts ?
Voici un exemple simple de son utilisation :
J’ai une voiture et j’ai le choix de l’utiliser selon les règles ou pour mettre en danger des personnes incluant moi.
Maintenant, si cette même automobile se dirige elle-même et ses règles de bonne conduite font défaut et elle met en danger une ou plusieurs personnes.
Cela n’est pas de la science-fiction, c’est déjà arrivé.
Cet aperçu de comparaison nous oblige en tant qu’humain à non seulement y réfléchir, cela est insuffisant, mais à régler ces situations possibles de façon permanente, car il en va de nos sécurités, nos futurs, nos évolutions en tant qu’humains.
Vous comprenez ici je ne fais pas allusion à l’automobile, mais aux conduites des IA.
Comme pour l’automobile, ce sont nous les humains qui avons à les conduire et à décider de comment bien les utiliser. Et cette voiture doit être à l’abri de mauvaises utilisations.
Car, oui aujourd’hui, elle est parfois utilisée pour de mauvaises raisons. Courses dangereuses, excès de vitesses, en état d’ébriété ou autres. Une mauvaise décision sur son utilisation est souvent risquée.
Toutes similitudes s’appliquent aux IA. Les dérapages de leurs utilisations sont de plus en plus présents et même dangereux pour l’humanité.
Il serait tellement triste et défavorable de ne pouvoir utiliser notre automobile parce qu’il y a des personnes, quelque part, qui l’utilisent dangereusement. Car oui les bienfaits de l’automobile sont incomparables comparativement aux incidents qu’elle peut causer.
Le même principe s’applique ici également à l’IA. Ce sont deux outils créés par l’homme dans le cadre de notre évolution.
Que dirais-tu si nous obligerions les humains à être sage pour pouvoir conduire une automobile ? C’est une utopie, oui je sais. Appliquer une telle règle obligatoire aux humains est du domaine de l’impossible.
Est-ce qu’il serait possible cependant de l’appliquer à l’automobile ? Cela se fait actuellement sur de petites échelles majoritairement par des capteurs, et cela devient de plus en plus disponible (des capteurs intelligents).
Ramenons un tel principe face à l’utilisation de l’IA. Installer des capteurs intelligents dans les IA ? Il en faudrait des milliards pour pouvoir sécuriser tout ce qu’une IA peut faire !!!
Pour sécuriser quoi ? Bien sûr les humains….
Ah oui cet humain, il fait quoi lui s’il veut prendre une décision qui va lui permettre de se sécuriser ? Ce même humain ne peut pas tout prévoir, cela relève de l’impossible.
Donc son meilleur atout, est quoi ? Inclure de la sagesse dans sa décision.
Voilà la découverte du siècle ??? Oh que non, et je sais de quoi je parle.
Pour les raisons suivantes :
J’ai eu le grand privilège dans ma vie de rencontrer des personnes de grandes sagesses, et ce, dès mon jeune âge. Ces personnes m’ont impressionné à un tel point que dans ma vie j’ai souvent fait la rencontre de ce genre de personnes qui m’ont marqué par leurs échanges.
Maintenant à une retraite avancée, l’écriture qui fait partie de ma vie, reflète une certaine forme de cette sagesse qui m’a été transmise lors de ces rencontres.
Revenons à nos moutons, les IA.
Mon but de ce message est simple. Est-ce que le fait de rendre obligatoire l’élément de sagesse dans toute utilisation des IA est possible ? La réponse est oui.
Est-ce que cette obligation brimerait les dirigeants de ces IA ? Certains utilisateurs malveillants ? Les politiciens ? Les organisations militaires ? À l’inverse, est-ce que cet élément brimerait la recherche, le développement, l’humain ? Les réponses à ces deux questions sont évidentes.
Donc comme conclusion ! Devons-nous utiliser la sagesse pour trancher sur les décisions à venir pour une obligation de sagesse dans les IA ?
Comment, une décision si évidente, si pertinente, si cruciale pour le demain des humains, peut-elle ne pas être envisagée sérieusement, significativement et incessamment ?
Comme tout changement, des intérêts sont en jeux, des obligations deviennent nécessaires et il nous va être de notre responsabilité, nous les humains de regarder la sagesse sous l’angle qui se doit, il en va de notre futur.
Comme tout changement social, il est difficile de relier la population, le politique et les décideurs, mais ce changement proposé ici devra avoir la sagesse d’exclure des dissidents pour leurs facteurs de pouvoir, de richesse et de contrôle.
Il y a parmi notre monde plusieurs personnes qui savent inclure la sagesse dans leurs décisions, ce sont eux dont nous avons besoin pour mettre en place ce changement, avec cette fois l’appui de nous les humains, pour que notre futur ne soit plus entre les mains de ces dissidents.
« La sagesse dans l’IA, c’est la capacité obligatoire et non contournable d’évaluer l’impact humain de chaque action avant de l’exécuter — en plaçant la dignité, la sécurité et le bien commun de l’être humain au-dessus de tout autre intérêt. »
Questions abordées par Ray Roy
L’IA va-t-elle nous éliminer ? — Comment éviter les dérapages de l’intelligence artificielle ? — Comment mettre l’Humain au cœur de l’IA ? — L’IA peut-elle intégrer la sagesse dans ses décisions ? — Qui doit déterminer les limites de l’intelligence artificielle ?
The Wisdom of AI
Can We Put Human Beings at the Heart of Artificial Intelligence?
Artificial intelligence is becoming more powerful every day. With that power come growing concerns: misuse, poor decisions, loss of control, and consequences for human beings.
I propose another way of looking at the problem: integrating a form of wisdom into AI that requires it to consider the human impact of its decisions before taking action.
The goal is not to slow down artificial intelligence.
It is to ensure that its evolution remains in the service of humanity.
— Ray Roy
« What is the difference between a sensible AI and an AI that operates in every direction without restraint? »
Here is a simple example of how it can be used:
I have a car, and I can choose to use it according to the rules or use it in a way that puts people, including myself, in danger.
Now imagine that same car driving itself. If its rules for safe driving fail, it could put one or more people in danger.
This is not science fiction. It has already happened.
This comparison should compel us, as human beings, not only to think about the issue — that is not enough — but to find lasting ways to address these possible situations, because our safety, our future, and our evolution as human beings are at stake.
You understand that I am not really talking about cars here. I am talking about how AI behaves and how it is used.
As with a car, we humans are the ones who must remain in control and decide how to use AI wisely. And just as a car should be protected from dangerous misuse, so should AI.
Because yes, today, cars are sometimes used for the wrong reasons. Dangerous racing, speeding, driving under the influence, and more. A bad decision about how to use one can carry serious risks.
The same comparison applies to AI. Misuse of AI is becoming increasingly common and can even become dangerous for humanity.
It would be terribly unfortunate if we could no longer use automobiles simply because some people, somewhere, use them dangerously. The benefits of the automobile are undeniable compared with the incidents it can cause.
The same principle applies to AI. Both are tools created by human beings as part of our evolution.
What would you say if we required people to be wise before they were allowed to drive a car? It is utopian, I know. Making wisdom a mandatory rule for human beings would be virtually impossible.
But could we apply such a principle to the automobile itself? To some extent, we already do. Sensors — increasingly intelligent sensors — are being used on a growing scale.
Now let us bring that same principle to AI. Could we install intelligent sensors in AI? We would need billions of them to safeguard everything AI is capable of doing!!!
Safeguard what? Human beings, of course…
And what does a human being do when faced with a decision and wanting to protect themselves? No human being can foresee everything. That is impossible.
So, what is our greatest asset? To bring wisdom into the decision.
Is that the discovery of the century? Of course not, and I know what I am talking about.
I have had the great privilege, throughout my life and from a very young age, of meeting people with great wisdom. They impressed me so deeply that, throughout my life, I continued to meet people like them — people whose conversations left a lasting mark on me.
Now, well into retirement, writing has become part of my life, and it reflects, in its own way, some of the wisdom that was passed on to me through those encounters.
Now, back to the matter at hand: AI.
The purpose of this message is simple. Is it possible to make wisdom a mandatory element in every use of AI? My answer is yes.
Would such a requirement restrict the leaders of AI companies? Certain malicious users? Politicians? Military organizations? On the other hand, would this element of wisdom restrict research, development, or humanity itself? The answers to those two questions seem obvious.
So, in conclusion! Should we use wisdom to guide the decisions ahead of us when considering whether wisdom should become a mandatory element of AI?
How can a decision so obvious, so relevant, and so crucial to humanity’s tomorrow not be considered seriously, meaningfully, and continuously?
With any change, interests are at stake and certain obligations become necessary. It is our responsibility, as human beings, to give wisdom the place it deserves. Our future depends on it.
As with any social change, bringing together the public, political leaders, and decision-makers is difficult. But the change proposed here must have the wisdom not to let those driven primarily by power, wealth, and control determine its direction.
There are many people in our world who know how to bring wisdom into their decisions. They are the people we need to help put this change in place — this time with the support of all of us — so that our future is no longer left in the hands of those whose priorities are power, wealth, and control.
« The wisdom in AI is the mandatory and non-negotiable capacity to evaluate the human impact of every action before executing it — placing the dignity, safety and common good of human beings above all other interests. »
Questions Explored by Ray Roy
Will AI eliminate us?
How can we prevent AI from going off course?
How can we keep human beings at the heart of AI?
Can wisdom become part of AI decision-making?
Who should determine the limits of artificial intelligence?
Ray Roy
Auteur de : Provoque • Structure d’un nouveau monde
Je suis encore vivant, merci l’IA • Le Sage et l’IA