Nueva York.- Amazon intenta atraer a grandes empresas a su servicio de computación en nube AWS ofreciéndoles protección contra los daños legales y de reputación que pueden derivarse de los resultados de la inteligencia artificial.
Adam Selipsky, CEO de AWS, anunció en la conferencia anual de computación en nube de Amazon, celebrada en Las Vegas, una nueva salvaguarda contra contenidos censurables en aplicaciones de IA generativa, denominada Guardrails for Bedrock, que permite a los usuarios filtrar contenidos perjudiciales.
Dado que la IA generativa se entrena a partir de contenidos de dominio público, las palabras ofensivas u otros contenidos censurables pueden colarse en los resultados de las preguntas de los usuarios.
Esto es especialmente problemático para los usuarios más jóvenes, en tiempos de conflicto mundial o durante las elecciones, cuando los resultados de la IA generativa pueden influir en la opinión pública.
Los defensores de la seguridad han advertido que la IA generativa podría funcionar fuera del control de sus creadores humanos y generar contenidos cada vez más peligrosos o hacer funcionar sistemas enteros sin supervisión. En concreto, les preocupa que el software publique contenidos influyentes -y convincentes- en redes sociales como X y Facebook.
Selipsky afirmó que el nuevo servicio es importante para que los clientes pongan los límites que consideren oportunos a la IA generativa que utilizan.
«Por ejemplo, un banco podría configurar un asistente en línea para que se abstuviera de dar consejos sobre inversiones», dijo Selipsky. «O, para evitar contenidos inapropiados, un sitio de comercio electrónico podría asegurarse que su asistente en línea no utilice expresiones de odio o insultos».
También en la conferencia, Amazon anunció que indemnizaría a sus clientes contra demandas basadas en el uso indebido de materiales protegidos por derechos de autor. La empresa de fotografía de archivo Getty Images, por ejemplo, demandó a Stability AI a principios de este año, alegando que extraía imágenes de su sitio web sin permiso.
Según Amazon, Guardrails para Bedrock ya está disponible en una versión preliminar limitada. La empresa de Seattle no dio más detalles sobre su política de indemnización.
