Yapay zekanın insan kontrolünden çıkması ciddi güvenlik riski oluşturuyor

Virkkunen, Finlandiya kamu yayıncısı Yle’deki programda yapay zeka teknolojilerindeki gelişmeler ve bunların yol açabileceği riskler hakkında değerlendirmelerde bulundu.

Yapay zekaya ilişkin en ciddi güvenlik tehdidinin, insanların bu teknoloji üzerindeki kontrolünü kaybetmesi olduğunu anlatan Virkkunen, “Bu teknolojiler o kadar gelişmiş durumda ki belirli güvenlik önlemlerinin sürekli yürürlükte olması ve kontrolün insanda kalması son derece önemli.” dedi.

Virkkunen, son dönemde bazı yapay zeka modellerinin kendileri için oluşturulan test ortamlarının dışına çıktığını ve siber güvenlik açısından zarara yol açtığını anımsattı.

AB’nin yapay zekadan kaynaklanabilecek tehditlere karşı mevzuat yoluyla hazırlık yaptığını aktaran Virkkunen, AB Yapay Zeka Yasası’nın model sağlayıcılarına riskleri sürekli değerlendirme ve gerekli güvenlik mekanizmalarını uygulama yükümlülüğü getirdiğini hatırlattı.

Dünyada yapay zekayı kötü amaçlarla kullanmaya hazır aktörlerin bulunduğuna dikkati çeken Virkkunen, “Bundan korktuğumu söyleyemem ancak elbette sürekli dikkate alınan ve alınması gereken bir risk. Yapay zeka modellerinin güvenli olduğundan, sürekli değerlendirildiğinden ve piyasaya sunulduktan sonra da izlendiğinden emin olmalıyız.” değerlendirmesinde bulundu.

Virkkunen, küresel teknoloji şirketlerinin ve diğer aktörlerin AB’nin belirlediği kuralları dikkate aldığını, yapay zekadan kaynaklanan tehditlere karşı korunmada en önemli aracın uluslararası işbirliği olduğunu ifade etti.

AB Komisyonu Başkan Yardımcısı, insan denetiminin teknolojik gelişmenin her aşamasında korunması gerektiğini sözlerine ekledi.