CertiK CEO'sundan uyarı: 'AI ajanlarının kitlesel kullanımı bekleyen bir felaket'

Blokzincir güvenlik firması CertiK'in CEO'su, AI ajanlarının kontrolsüz yaygınlaşmasının ciddi bir güvenlik riski yaratacağını söyledi. CEO'ya göre ajanlara verilen kişisel veri ve dijital varlık erişimi, test/üretim ayrımı yeterince netleştirilmeden mümkün olmamalı.

Önerilen ilkeler

• İzolasyon: ajanlar tam üretim verisiyle değil, ayrıştırılmış ortamlarda test edilmeli
• En düşük yetki: ajan ihtiyacı kadar erişim almalı, daha fazlası değil
• Denetlenebilir log: kararlar geri izlenebilir olmalı
• İnsan onayı: kritik aksiyonlarda human-in-the-loop

Türkiye için

KVKK çerçevesi açısından da bu prensipler önemli. AI ajan tabanlı ürünler geliştiren Türk firmalar, veri minimizasyonu ve erişim denetimi ilkelerini ürünün kendisine yedirmeli.

Kaynak: CoinDesk