Google Deepmind ha compartido su plan para hacer que la inteligencia general artificial (AGI) sea más segura.
El informe, titulado «Un enfoque de seguridad técnica de AGI», explica cómo detener los usos dañinos de la IA mientras amplifica sus beneficios.
Aunque altamente técnicas, sus ideas pronto podrían afectar las herramientas de IA que la búsqueda de energía, la creación de contenido y otras tecnologías de marketing.
Línea de tiempo AGI de Google
DeepMind cree que AGI puede estar listo para 2030. Esperan que la IA trabaje en niveles que superan el rendimiento humano.
La investigación explica que las mejoras ocurrirán gradualmente en lugar de a saltos dramáticos. Para los especialistas en marketing, las nuevas herramientas de inteligencia artificial se volverán más poderosas, dando tiempo a las empresas para ajustar sus estrategias.
El informe dice:
«Estamos muy inciertos sobre los plazos hasta que se desarrollen potentes sistemas de IA, pero de manera crucial, nos pareció plausible que se desarrollarán para 2030».
Dos áreas de enfoque clave: prevenir el mal uso y la desalineación
El informe se centra en dos objetivos principales:
- Detener el mal uso: Google quiere impedir que los malos actores usen una poderosa IA. Los sistemas serán diseñados para detectar y detener actividades dañinas.
- Detener la desalineación: Google también tiene como objetivo garantizar que los sistemas de IA sigan los deseos de las personas en lugar de actuar de forma independiente.
Estas medidas significan que las futuras herramientas de inteligencia artificial en el marketing probablemente incluirán las verificaciones de seguridad incorporadas mientras trabajen según lo previsto.
Cómo esto puede afectar la tecnología de marketing
Controles a nivel de modelo
DeepMind planea limitar ciertas características de IA para evitar el mal uso.
Técnicas como supresión de la capacidad Asegúrese de que un sistema de IA retenga voluntariamente funciones peligrosas.
El informe también discute inofensiva posterior al entrenamientolo que significa que el sistema está capacitado para ignorar las solicitudes que ve como dañinas.
Estos pasos implican que las herramientas de contenido con IA y los sistemas de automatización tendrán filtros éticos fuertes. Por ejemplo, un generador de contenido podría negarse a producir material engañoso o peligroso, incluso si lo empujan por indicaciones externas.
Protecciones a nivel de sistema
El acceso a las funciones de IA más avanzadas puede estar estrechamente controlado. Google podría restringir ciertas características a los usuarios de confianza y usar el monitoreo para bloquear acciones inseguras.
El informe establece:
«Los modelos con capacidades peligrosas pueden restringirse a grupos de usuarios examinados y casos de uso, reduciendo el área de superficie de las capacidades peligrosas que un actor puede intentar acceder de manera inapropiada».
Esto significa que las herramientas empresariales pueden ofrecer características más amplias para socios confiables, mientras que las herramientas orientadas al consumidor vendrán con capas de seguridad adicionales.
Impacto potencial en áreas de marketing específicas
Buscar y SEO
Las medidas de seguridad mejoradas de Google podrían cambiar la forma en que funcionan los motores de búsqueda. Los nuevos algoritmos de búsqueda podrían comprender mejor la intención del usuario y confiar en el contenido de calidad que se alinea con los valores humanos centrales.
Herramientas de creación de contenido
Los generadores avanzados de contenido de IA ofrecerán una salida más inteligente con reglas de seguridad incorporadas. Es posible que los especialistas en marketing necesiten establecer sus instrucciones para que la IA pueda producir contenido preciso y seguro.
Publicidad y personalización
A medida que AI se vuelve más capaz, la próxima generación de tecnología publicitaria podría ofrecer una mejor orientación y personalización. Sin embargo, los controles de seguridad estrictos pueden limitar cuánto el sistema puede impulsar las técnicas de persuasión.
Mirando hacia el futuro
La hoja de ruta de Google Deepmind muestra el compromiso de avanzar en la IA mientras lo hace seguro.
Para los especialistas en marketing digital, esto significa que el futuro traerá poderosas herramientas de IA con medidas de seguridad incorporadas.
Al comprender estos planes de seguridad, puede planificar mejor un futuro en el que la IA trabaje de manera rápida, segura y sintonizada con los valores comerciales.
Imagen destacada: Shutterstock/Iljanaresvara Studio
(Tagstotranslate) Noticias
