Montrealská deklarácia: Nenechajte umelú inteligenciu rozhodovať o zabíjaní

Technológie
0

Umelá inteligencia by mala rešpektovať súkromie ľudí, podporovať rôznorodosť názorov a byť otvorená kontrole. Nemala by sa používať na diskrimináciu, nahrádzanie ľudských vzťahov alebo zasahovanie do demokratických procesov. To sú niektoré z princípov Montrealskej deklarácie o zodpovednom vývoji umelej inteligencie, ktorá bola zverejnená v týchto dňoch po konzultácii so 100 odborníkmi v oblasti etiky a technológií.

Dokument vznikol z iniciatívy Montrealskej univerzity a má usmerniť spoločnosti, ktoré používajú systémy AI, aby premýšľali o morálnych dôsledkoch tejto čoraz pokročilejšej technológie. Technológia umelej inteligencie sa v poslednom čase podieľala na niektorých veľkých verejných škandáloch, z ktorých vyplynula naliehavosť riešenia jej etickej stránky.

Škandál Cambridge Analytica odhalil, aký nebezpečný je zber používateľských údajov Facebookom, umožňujúci ich využitie na politické účely bez súhlasu používateľov. Softvér Amazonu na rozpoznávanie tvárí zasa svojvoľne využila americká polícia, pretože neexistujú pravidlá, ktoré by upravovali jeho použitie.

„Je dôležité mať odporúčania a hodnoty, na základe ktorých sa budú riadiť nové technológie,“ povedala Christine Tappoletová, profesorka filozofie na Montrealskej univerzite a spoluautorka vyhlásenia. „Systémy zisťujú, ako ľudia cítia, aké sú ich preferencie, pritom ľudia nemusia chcieť, aby tieto skutočnosti boli o nich známe. To treba rešpektovať.“

Tappoletová sa zaoberá hlavne používaním umelej inteligencie v automatizovaných zbraniach, ktoré by mohli byť naprogramované tak, aby samy identifikovali ciele a zneškodnili ich. Deklarácia obsahuje aj zásadu, že „rozhodnutie zabiť musia vždy urobiť ľudské bytosti a zodpovednosť za toto rozhodnutie sa nesmie previesť na umelú inteligenciu“.

Deklarácia nie je právne záväzná, ale mala by byť východiskom pre budúce právne rámce alebo nariadenia. Nakoniec však spoločnosti prijmú jej princípy, ak bude dostatočný tlak zo strany verejnosti, povedala Tappoletová. Výučba digitálnej gramotnosti a poučenie ľudí o tom, ako firmy zhromažďujú a používajú ich údaje, sú nevyhnutné na vytvorenie informovanej verejnosti.

Zdroj: cbc.ca.

Zobrazit Galériu

Redakcia

Všetky autorove články
umelá inteligencia AI clovek buducnost zakon Facebook bezpečnosť sukromie Amazon

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať