A mesura que s'avança cap a l'era de la intel·ligència artificial (IA), l'ètica d'aquesta esdevé crucial per al seu disseny. El que sembla ètic en desenvolupar productes amb IA, com serien les màquines de programació les quals poden triar entre el be i el mal, sovint canvia quan es posen a la practica.
Amb les càmeres corporals utilitzades per policies, la tecnologia IA, permet el reconeixement facial que podria ajudar a la identificació d'un sospitós. Després de tot, la memòria al llarg del temps, es pot tornar difusa, mentre que el que veu una càmera poden ser proves clares. Però, què passa quan el reconeixement facial comporta prejudici?
Tot i que els humans han de programar màquines amb l'ètica en ment, les màquines no tenen un raonament humà, ja que poden decidir què passa quan les coses no surten exactament com s'havia previst tal com va passar al fallar la tecnologia IA en el cas del vehicle autònom que va impactar i va matar a un vianant, una persona innocent és la víctima.
David Danks, professor de filosofia i psicologia de la Universitat de Carnegie Mellon, afirma que les persones que desenvolupen la tecnologia han de tenir en compte tant l'ètica com l'objectiu empresarial i adonar-se que "no és un guany que suma zero". No és ètic ni rendible, on aquests són excloents mútuament.
Moltes empreses consideraran les implicacions ètiques de l'IA al dissenyar productes, però quan sigui una pràctica, ocasionalment crearan grups ètics dedicats per centrar-se als usos dubtosos de la tecnologia per part dels éssers humans. Per descomptat, també cal tenir en compte els defectes tecnològics i les fallides.
Consideracions bàsiques sobre el disseny d'IA.
Moltes empreses consideraran les implicacions ètiques de l'IA al dissenyar productes, però a la pràctica, ocasionalment per part dels éssers humans, crearan grups ètics dedicats per centrar-se en usos dubtosos de la tecnologia.
Els controls, s'han d'integrar per identificar els biaixos, mostrar l'atribució i l'habilitat sobre la correcció de l'evolució segons sigui necessari. Amb aquesta finalitat, Constellation Research, empresa de recerca i assessoria tecnològica amb seu a Silicon Valley, suggereix aquests cinc pilars sobre el disseny, siguin fonamentals per a l'ètica de l'IA en tots els projectes:
Transparent: Algorismes, atributs i correlacions han d'estar oberts a la inspecció de totes les parts involucrades.
Explicable: els éssers humans han de ser capaços d'entendre com els sistemes IA arriben a les seves decisions contextuals.
Reversible: les organitzacions han de poder invertir els aprenentatges i ajustar-se segons sigui necessari.
Entrenable: els sistemes IA han de tenir la capacitat d'aprendre dels humans i d'altres sistemes.
Liderats per l'home: totes les decisions haurien de començar i acabar amb punts de decisió humana.
Font: IEEE Innovation
Cap comentari:
Publica un comentari a l'entrada