Amazon ha lanzado oficialmente los filtros de contenido de imagen en su plataforma Amazon Bedrock Guardrails, ampliando los mecanismos de moderación de contenido en aplicaciones de inteligencia artificial generativa. Hasta ahora, la moderación se limitaba al texto, pero con esta nueva funcionalidad, las capacidades de control se extienden a las imágenes, lo que facilita la gestión de los insumos y las respuestas generadas por la IA.


Tero Hottinen, sugiriendo que Amazon Bedrock Guardrails podría ser crucial para proteger aplicaciones de IA generativa, en especial, en la verificación de la relevancia y el contexto. KONE proyecta integrar estos sistemas en sus aplicaciones, usando los guardrails para asegurar un mejor análisis y diagnóstico de contenido multimodal, como diagramas de diseño de productos y manuales.


La herramienta permite a los clientes establecer salvaguardias configurables que bloquean entradas y salidas perjudiciales. Las seis políticas diferentes que propone, desde filtros de contenido hasta la detección de alucinaciones del modelo, ayudan a eliminar hasta el 88% del contenido multimodal dañino. Ahora, los desarrolladores tienen la posibilidad de combinar la moderación de texto e imágenes y ajustar los umbrales de seguridad del contenido según sus necesidades.