Renç Korzay, PDG de Giza, souligne que les considérations éthiques dans le développement des agents d’IA doivent être «appliquées par architecture». Il plaide pour le contrôle des utilisateurs intégrés et la «sécurité par conception» afin de minimiser les charges réglementaires.
Sécurité des utilisateurs «appliquée architecturale»
L’avancement rapide de l’intelligence artificielle a conduit au développement d’agents d’IA de plus en plus sophistiqués, capables d’effectuer des tâches complexes dans divers secteurs. Cependant, à mesure que ces agents deviennent plus puissants et plus autonomes, les préoccupations concernant les considérations éthiques et les risques potentiels ont émergé.
Pour répondre à ces préoccupations, Renç Morzay, PDG de Giza et un vétéran de l’industrie, préconise la priorisation de la sécurité des utilisateurs et de la souveraineté, qui, selon lui, doit être «non négociable» et «appliquée architecturale». Korzay fait valoir que les directives éthiques devraient se traduire par des exigences d’ingénierie concrètes, façonnant tous les aspects de la conception des agents d’IA.
Dans les réponses écrites aux questions de Bitcoin.com News, Korzay a également souligné la nécessité d’un contrôle complet des utilisateurs. Ce contrôle, a-t-il ajouté, devrait être intégré à l’architecture de l’agent, garantissant que les utilisateurs maintiennent la surveillance et l’autorité complètes. Contrairement aux systèmes qui reposent sur le contrôle délégué, les agents d’IA éthiques devraient fonctionner via des cadres d’autorisation qui peuvent être révoqués instantanément, a déclaré Korzay.
Pour le PDG de Giza, le message principal est clair: les considérations éthiques doivent être intégrées à l’architecture fondamentale des systèmes d’IA, non ajoutée après coup.
« Dans Defi, où les actifs financiers des utilisateurs sont en jeu, des considérations éthiques doivent être intégrées dans l’architecture fondamentale des systèmes d’IA, non ajoutée après coup », a déclaré Korzay.
Cette mentalité de «sécurité de sécurité» est essentielle pour renforcer la confiance et assurer le développement responsable des agents de l’IA. En ce qui concerne les marchés de financement décentralisés (DEFI), qui sont devenus plus complexes, Korzay a révélé qu’il était désormais possible de déployer des agents d’IA pour optimiser les positions des utilisateurs à travers les protocoles de premier plan et exécuter des stratégies sophistiquées tandis que les utilisateurs maintiennent le contrôle total des fonds.
Finance « xénoncognitive »
Pendant ce temps, le PDG soutient que la protection efficace des utilisateurs dans DeFI provient de la conception robuste des produits, et non uniquement de la réglementation externe. Cette approche de «sécurité par design», a-t-il dit, cherche à créer un écosystème où la sécurité est «intrinsèque», ce qui minimise la nécessité d’une réglementation lourde.
Korzay affirme que la construction de systèmes intrinsèquement sécurisés aligne les intérêts des parties prenantes et s’engage de manière proactive avec les régulateurs pour façonner les politiques futures. L’accent est mis sur la création de la valeur grâce à des produits bien conçus, faisant de la conformité un résultat naturel plutôt qu’un obstacle à l’innovation.
En regardant vers l’avenir, Korzay a déclaré qu’il prévoyait que la «finance xénocognitive» dominant d’ici 2030, avec des agents de l’IA émergeant comme la principale interface de marché, dépassant les limites cognitives humaines. À cette époque, les humains fixeront des objectifs stratégiques tandis que les agents de l’IA géreront l’exécution.
«La courbe d’adoption ne sera pas linéaire – elle sera exponentielle. Comme ces agents démontrent leur capacité à surpasser régulièrement les opérations manuelles tout en conservant des garanties de sécurité, ils deviendront le moyen par défaut d’interagir avec les marchés financiers », a ajouté le PDG.
