Anthropic: компактные ИИ-модели смогут проникать в умные духовки и ТВ-приставки

Американский ИИ-разработчик Anthropic

, что в ближайшие месяцы могут появиться компактные модели ИИ, способные к саморепликации на коммерческих устройствах интернета вещей (IoT). Среди подобных устройств — умные духовки и бюджетные ТВ-приставки на базе Android. К такому выводу компания пришла на основе собственных экспериментов.

Anthropic отмечает, что «остановить распространение подобной программы-репликатора будет крайне сложно из-за отсутствия единого центра управления, хотя сам процесс может протекать медленно», речь идет о днях. В отличие от традиционных вредоносных программ, не использующих ИИ, такая система способна самостоятельно распознавать незнакомые устройства. Во время испытаний ИИ-модель успешно выполняла задачи вывода на восемь из девяти протестированных типов аппаратного обеспечения.

«Мы ожидаем, что в будущем нас ждет множество агентов, работающих на самых разных типах оборудования, включая то, которое не находится под управлением человека»,— предостерегла компания. Она также призвала «стремиться к укреплению наших систем, чтобы затруднить распространение подобных репликаторов, но также готовиться к миру, в котором они останутся навсегда».