Seguridad y privacidad ¿cómo valorar la seguridad sobre un sistema basado en IA?
Actualmente estamos viviendo un boom relacionado con la Inteligencia Artificial y su integración en sistemas y organizaciones de todos los tamaños y sectores. Acompañando a este crecimiento, se están desarrollando de manera continua, adaptándose a los cambios en la tecnología, guías, metodologías y...
| Autor: | |
|---|---|
| Tipo de recurso: | tesis de maestría |
| Fecha de publicación: | 2024 |
| País: | España |
| Institución: | Universitat Oberta de Catalunya (UOC) |
| Repositorio: | O2, repositorio institucional de la UOC |
| OAI Identifier: | oai:openaccess.uoc.edu:10609/149664 |
| Acceso en línea: | http://hdl.handle.net/10609/149664 |
| Access Level: | acceso abierto |
| Palabra clave: | intel·ligència artificial vulnerabilitat Prompt Injection inteligencia artificial vulnerabilidad artificial intelligence vulnerability Artificial intelligence -- TFM Intel·ligència artificial -- TFM |
| Sumario: | Actualmente estamos viviendo un boom relacionado con la Inteligencia Artificial y su integración en sistemas y organizaciones de todos los tamaños y sectores. Acompañando a este crecimiento, se están desarrollando de manera continua, adaptándose a los cambios en la tecnología, guías, metodologías y protocolos para un desarrollo, mantenimiento e implementación seguros. Pero se ha observado una carencia en el análisis y el comunicación formal de vulnerabilidades. El propósito de este trabajo es intentar suplir este vacío. El autor del presente TFM tiene años de experiencia como pentester y analista de Threat Intelligence, y ha aplicado su enfoque y metodología para su desarrollo, intentando enfocar el ejercicio des del punto de vista de un profesional de la Seguridad Ofensiva. En el documento se proporciona una visión general de cuál es el estado de la seguridad en las aplicaciones que hacen uso Inteligencia Artificial. Esta contextualización es entonces aprovechada para asistir en la generación de una propuesta de que factores se deberían tener en cuenta a la hora de realizar un análisis de seguridad de este tipo de aplicaciones, además de proponer un modelo de informe de presentación de resultados. Finalmente, se realiza un análisis en profundidad de las vulnerabilidades conocidas como Prompt Injection, pues es muy útil para ilustrar cuáles son las características propias de las vulnerabilidades que afectan a la Inteligencia Artificial, en especial, las de tipo generativo. |
|---|