La Ética en el Diseño de Software

Cambridge Analytica Ltd. evidenció que la mente humana y su comportamiento pueden ser estudiados, comprendidos y dirigidos mediante el uso de la tecnología, en particular el internet y las redes sociales, alterando así a voluntad la democracia de un país (Boldyreva, Grishina, & Duisembina, 2018).

Aunque hoy, Cambridge Analytica Ltd. se encuentra en procedimientos legales e investigación por parte de las autoridades de Reino Unido, su equipo de desarrollo se encuentra ya trabajando en la firma Auspex International Ltd. (BBC, 2018), detonando la pregunta obligada de si pudiese repetirse nuevamente la historia.

Y aunque como consumidores digitales empecemos a ser más precavidos con el uso que le damos a nuestra huella en línea, nuestra privacidad, el contenido que compartimos y las aplicaciones a las cuales otorgamos el consentimiento de acceso a nuestros datos, aún existe una brecha no mesurable sobre cuántos, del 53.6% de la humanidad que tiene acceso a internet (International Telecommunication Union, 2019) tiene el conocimiento y la habilidad para consumir contenido digital de manera responsable, integrando hábitos como:

1. Verificación de fuentes de información.

2. Lectura de Términos y Condiciones.

3. Evaluación de reputación en línea de personas y/o organizaciones.


La responsabilidad del profesional en Informática


El presente texto aborda la responsabilidad que tienen los ingenieros y desarrolladores de software bajo la óptica del cumplimiento y la ética, desde los procesos de levantamiento de información y necesidades para un diseño del sistema, el análisis de resultados, hasta las preguntas críticas sobre el propósito y uso del software.

Construir sociedades justas, en respeto de la democracia, requieren que todos los jugadores involucrados se adhieran a las mismas reglas. La innovación de la tecnología, como el desarrollo del big data, el machine learning y la inteligencia artificial no pueden ser la excepción.

Auspex International Ltd. en su sitio de internet ha integrado un código ético que mira a su pasado y busca construir una nueva reputación acerca de la tecnología experimental de manipulación de masas, la cual ha sido usada según reportajes periodísticos para la disuasión de grupos radicales terroristas (Netflix, 2019).

Los cinco principios son:

1. Solo trabajamos para gobiernos, candidatos políticos y organizaciones legítimas.

2. Centramos nuestros esfuerzos en proyectos que apuntan a generar un cambio social positivo.

3. Cumplimos con todas las leyes y regulaciones locales relacionadas con la campaña, incluida la privacidad y protección de datos, la ley electoral, las medidas anticorrupción y el uso legítimo de técnicas de campaña.

4. Nos resistimos activamente a toda actividad poco ética diseñada para socavar el proceso electoral, inducir a error al electorado o restringir el discurso político abierto y honesto.

5. Nos oponemos a la difusión de noticias falsas y contenido no atribuido.

–Auspex International Ltd., 2020

Los desarrolladores de software, científicos de datos, y demás profesionales de la Informática no podemos alegar el desconocimiento de estos principios éticos, legales, regulatorios y de cumplimiento, lejos de formar parte de un tecnicismo legal, son parte medular de la preparación de cualquier profesional en esta industria.

En su libro Ingeniería de Software, Ian Sommerville (Sommerville, 2011), antes de comenzar con los principios generales sobre los procesos del software, invoca la importancia y el rol crítico que tiene la ética en la profesión de la informática para incentivar la confianza en la industria.

Estos principios éticos se encuentran contenidos en el Código de Ética y Conducta Profesional de la Association for Computing Machinery (Association for Computing Machinery, 2020).

Bajo la sección de Principios Éticos Generales, punto 1.1., se establece la obligación de Contribuir a la sociedad y al bienestar humano, reconociendo que todas las personas son partes interesadas en la Informática, en donde cito textualmente por su relevancia.

“[…]. Esta obligación implica la promoción de los derechos humanos fundamentales y la protección del derecho a la autonomía de cada individuo. Un objetivo esencial de los profesionales de la informática es minimizar las consecuencias negativas de la Informática, como las amenazas a la salud, la seguridad, la seguridad personal y la privacidad. Cuando los intereses de múltiples grupos entran en conflicto, las necesidades de los menos favorecidos deben recibir ser priorizadas y recibir una mayor atención.

Los profesionales de la computación deben evaluar si los resultados de sus esfuerzos respetarán la diversidad, si serán utilizados de manera socialmente responsable, satisfaciendo las necesidades sociales y si serán ampliamente accesibles. Se les anima a contribuir activamente a la sociedad mediante el trabajo voluntario y altruista que beneficie el bien público. […].”


La ética y el cumplimiento


Mucho he debatido la ciencia y la tecnología en el ámbito de la Informática a luz de nuevos desarrollos e innovaciones que si bien, algunos fueron concebidos para promover en nuestra sociedad cambios positivos como la inclusión financiera, otros, al ser altamente resistentes a la censura por su naturaleza global y digital, permiten el acceso a jugadores que vulneran la seguridad de un estado al facilitar el financiamiento al terrorismo, o bien, la estratificación de recursos para el lavado de dinero (Satoshi Nakamoto, 2008).

Esto no significa que ambos fenómenos o delitos financieros sean nuevos, puesto que han coexistido intrínsecamente con los métodos de pago tradicionales (fiat), sin embargo, sí hago alusión a las características que traen nuevas interrogantes –y retos– para los profesionales de la ética y el cumplimiento, reguladores, gobiernos y organismos internacionales.


Conclusión


Así, y como conclusión, en el camino de la Informática no toda la responsabilidad es adjudicable a la organización a través de la Responsabilidad Penal de las Personas Morales (Jones Day, 2015), sino que el profesional en desarrollo de software o soluciones tecnológicas también es sujeto obligado profesional y éticamente a denunciar mala praxis, ya sea a través de canales de denuncia interna, o como último recurso, con las autoridades competentes mediante la figura del whistleblowing.

A su vez, el profesional en Informática tiene la voluntad de decidir qué causas apoyar, que estén en línea con sus principios y valores, y con el bien público (Association for Computing Machinery, 2020).

La confianza y credibilidad de la industria Informática, así como de existentes y futuros desarrollos tecnológicos, depende de la ética y el cumplimiento que ejerzamos desde la concepción del proyecto, hasta su implementación y monitoreo.


Referencias

Elena L. Boldyreva, Natalia Y. Grishina, Yekaterina Duisembina (2018). Cambridge Analytica: Ethics and Online Manipulation with Decision-Making Process. The European Proceedings of Social & Behavioural Sciences.

BBC. (2018, July 12). Cambridge Analytica staff set up new firm.

https://www.bbc.com/news/technology-44807093.

International Telecommunication Union (2019). Statistics.

https://www.itu.int/en/ITU-D/Statistics/Pages/stat/default.aspx

Netflix. (2019). The great hack.

https://www.netflix.com/title/80117542

Ian Sommerville. (2011). Ingeniería de Software. Addison-Wesley.

Satoshi Nakamoto. (2008). Bitcoin: A Peer-to-Peer Electronic Cash System.
https://bitcoin.org/bitcoin.pdf

Jones Day. (2015). La Responsabilidad Penal de Personas Morales en México en el Marco del Gobierno Corporativo de las Empresas.

https://www.jonesday.com/es/insights/2015/05/la-responsabilidad-penal-de-personas-morales-en-mxico-en-el-marco-del-gobierno-corporativo-de-las-empresas/