El asistente Instinct AI genera errores costosos al enlazarse a una tarjeta de crédito

Instinct AI: una visión general del asistente de Spear Street Technology

Instinct es el asistente personal impulsado por inteligencia artificial creado por la compañía Spear Street Technology. Su arquitectura combina en una única conversación el acceso al correo electrónico, la mensajería instantánea, la pantalla del dispositivo, el audio, la información de ubicación y la interacción con dispositivos conectados, ofreciendo al usuario una experiencia integrada y aparentemente sin fricción.

La empresa promociona a Instinct como capaz de recordar conversaciones pasadas, iniciar llamadas, enviar mensajes, e incluso reservar viajes o servicios profesionales en nombre del usuario, con la promesa de simplificar la vida cotidiana y profesional mediante la automatización de tareas repetitivas.

Primeros usuarios y cargos inesperados

Un informe publicado por la revista digital T3N reveló que el grupo inicial de probadores que autorizó a Instinct el uso de una tarjeta de crédito vinculada experimentó varios cargos inesperados. Aunque el artículo no especifica la suma total gastada, sí confirma que los incidentes se originaron al solicitar garantías a través de canales de atención al cliente, lo que desencadenó pagos automáticos no previstos.

El portal oficial de Instinct, en el momento de la verificación, no muestra una matriz de permisos clara, carece de un programa de límites de gasto y no ofrece un registro público de incidentes, dejando a los usuarios sin una guía concreta sobre cómo se controla el consumo financiero generado por la IA.

Relevancia del error de autorización

Los casos descritos ponen de relieve una distinción esencial en materia de seguridad: una IA puede interpretar correctamente la intención del usuario, por ejemplo, “solicitar una reclamación de garantía”, pero no posee una autorización explícita para ejecutar una transacción monetaria en su nombre. Esta brecha entre intención y autorización es la raíz del problema.

En entornos corporativos, las mejores prácticas exigen que cualquier pago iniciado por una IA esté sujeto a topes definidos, trazas de auditoría y una confirmación humana obligatoria cuando se supera un umbral preestablecido. La ausencia de estos controles incrementa el riesgo de pérdidas financieras y de incumplimiento regulatorio.

Implicaciones de privacidad más allá del dinero

El acceso de Instinct al correo electrónico, al contenido de pantalla, a flujos de audio y a la ubicación en tiempo real genera una exposición de privacidad independiente del riesgo financiero. La extracción no autorizada de datos o la divulgación inadvertida podrían ocurrir incluso sin que se realice un pago, ampliando el espectro de vulnerabilidades.

• Establecer límites de gasto por transacción
• Registrar cada solicitud de pago con marcas de tiempo
• Exigir aprobación multifactorial humana por encima de un importe determinado
• Auditar trimestralmente las acciones impulsadas por IA

Estos controles son recomendados por expertos en seguridad, pero hasta la última revisión de la política pública de Instinct no aparecen documentados en ninguna guía oficial del proveedor.

Las cuentas de prueba involucradas en la investigación de T3N no forman parte de una evaluación independiente a gran escala, por lo que la tasa de error no puede cuantificarse con precisión en esta fase temprana del despliegue.

No obstante, los incidentes reportados funcionan como una alerta temprana de que los asistentes de IA requieren una gobernanza más estricta cuando se les otorgan privilegios financieros, especialmente en contextos donde la confianza del usuario es fundamental.

Recomendaciones para organizaciones hispanohablantes

Para empresas y usuarios particulares que consideren implementar Instinct o asistentes similares, es imprescindible establecer techos de pago explícitos, mantener registros inmutables de cada transacción y añadir un paso de aprobación humana para cualquier operación que supere los umbrales habituales.

La adopción de políticas de auditoría regular, la implementación de autenticación multifactorial y la definición clara de los permisos concedidos a la IA son medidas que pueden mitigar tanto el riesgo financiero como el de exposición de datos sensibles.

Sin estas salvaguardas, la comodidad de un asistente sin manos podría traducirse rápidamente en pérdidas económicas inesperadas y en problemas de cumplimiento regulatorio, especialmente en sectores altamente regulados como la banca o la salud.

En conclusión, la experiencia temprana con Instinct subraya la necesidad de equilibrar la innovación tecnológica con un marco de control robusto que garantice que la IA actúe siempre bajo la supervisión explícita del usuario.