Investigaciones en curso
Proyectos liderados por Carlos Diego, sus grupos de investigación y estudiantes de grado y posgrado.
Integridad, Sesgo, Datos Sintéticos y Procedencia
Toward a Data-Centric Trust Pipeline for Trustworthy AI. Investiga cómo la integridad, el sesgo, la generación de datos sintéticos y la procedencia forman un ecosistema interdependiente para construir una IA confiable.
Objetivo
Proponer el Data-Centric Trust Pipeline como modelo unificado para elevar la transparencia, la interpretabilidad y la rendición de cuentas a lo largo del ciclo de vida de los datos.
Líneas de problemas
- ¿Cómo asegurar consistencia, contextualización y completitud cuando los datasets carecen de metadatos y estandarización?
Justificación. Los fallos de integridad comprometen la reproducibilidad y la auditabilidad, amplificando errores aguas abajo. - ¿Qué enfoques mitigan disparidades entre grupos demográficos cuando las métricas de equidad son incompletas?
Justificación. Los estudios muestran variaciones de 20–35% de error entre grupos: la equidad exige tratamiento continuo. - ¿Cómo validar la autenticidad y los límites de uso de datos sintéticos, que pueden reproducir sesgos estructurales?
Justificación. Sin trazabilidad, los datos sintéticos distorsionan la interpretación en análisis sensibles. - ¿Cómo evolucionan los sistemas de procedencia de repositorios pasivos a registros interpretativos de decisiones?
Justificación. La procedencia es esencial para la explicabilidad y la auditoría en pipelines de IA.
Referencias
- D. Schwabe et al., "The METRIC-framework for assessing data quality for trustworthy AI in medicine: A systematic review," npj Digit. Med., vol. 7, no. 1, art. no. 11, 2024, doi: 10.1038/s41746-024-01196-4.
- J. Buolamwini and T. Gebru, "Gender shades: Intersectional accuracy disparities in commercial gender classification," in Proc. 1st Conf. Fairness, Accountability and Transparency, in Proceedings of Machine Learning Research, vol. 81, 2018, pp. 77–91.
- M. A. S. Hameed, A. M. Qureshi, and A. Kaushik, "Bias mitigation via synthetic data generation: A review," Electronics, vol. 13, no. 19, art. no. 3909, 2024, doi: 10.3390/electronics13193909.
- M. Ahmed et al., "Data provenance in healthcare: Approaches, challenges, and future directions," Sensors, vol. 23, no. 14, art. no. 6495, 2023, doi: 10.3390/s23146495.
- S. Longpre et al., "A large-scale audit of dataset licensing and attribution in AI," Nature Mach. Intell., vol. 6, no. 8, pp. 975–987, Aug. 2024, doi: 10.1038/s42256-024-00878-8.
C2PF — Planificación de Capacidad Consciente de la Arquitectura
An Architecture-Aware Conceptual Framework for Cloud Capacity Planning. Integra características arquitectónicas, semántica de cargas de trabajo y objetivos operativos (SLO, PLO, RLO) en un modelo conceptual unificado.
Objetivo
Proponer C2PF como un marco consciente de la arquitectura capaz de producir decisiones de capacidad proactivas, explicables y repetibles.
Líneas de problemas
- ¿Cómo superar los modelos reactivos basados solo en métricas históricas, que no capturan variación y concurrencia?
Justificación. La ausencia de contexto arquitectónico lleva a previsiones imprecisas y sobreaprovisionamiento. - ¿Cómo combinar componentes arquitectónicos, clasificación de cargas de trabajo y objetivos de rendimiento?
Justificación. Existen brechas semánticas y cognitivas entre arquitectos, operadores y planificadores. - ¿Cómo cuantificar los efectos de los patrones (microservicios, event-driven, serverless) en el consumo de capacidad?
Justificación. Los factores arquitectónicos pueden añadir hasta un 30% de sobrecarga, alterando escalabilidad y latencia.
Referencias
- C. D. Cavalcanti Pereira, "Capacity planning of cloud computing workloads," Doctoral dissertation, CESAR School, Recife, Brazil, 2023, doi: 10.2139/ssrn.5754002.
- C. D. Cavalcanti Pereira, "Capacity planning of cloud computing workloads," in Cloud Computing — Applications and Sustainable Developments. London, U.K.: IntechOpen, 2025, doi: 10.5772/intechopen.1011100.
- M. Richards and N. Ford, Fundamentals of Software Architecture: An Engineering Approach. Sebastopol, CA, USA: O’Reilly Media, 2020.
- R. Lichtenthäler, J. Fritzsch, and G. Wirtz, "Cloud-native architectural characteristics and their impacts on software quality: A validation survey," in Proc. IEEE Int. Conf. Service-Oriented System Eng. (SOSE), 2023, arXiv:2306.12532.
- N. J. Gunther, Guerrilla Capacity Planning: A Tactical Approach to Planning for Highly Scalable Applications and Services. Berlin, Germany: Springer, 2010, doi: 10.1007/978-3-540-31010-5.