Araştırmacılar AI kullanımında biyogüvenlik risklerini değerlendirdi

Bir grup bilim insanı, biyolojik araştırmalar üzerindeki etkileri ve potansiyel güvenlik tehditleri konusunda büyük bir inceleme yayınladı makale. Çalışma, LLM ve özel biyolojik modellerin deneysel planlama, protein dizileri oluşturma ve laboratuvar döngülerinin otomasyonu için nasıl kullanılabileceğini analiz ediyor.

Yazarlar, mevcut sınır sistemlerinin zaten in-silico görevlerde ve sistem tarama yöntemlerini atlatma konusunda uzmanları aştığını belirtiyorlar. Ancak biyolojik tehditlerin fiziksel olarak gerçekleştirilmesi, "zımni bilgilerin" eksikliği ve gerçek "Islak" laboratuvarlarda çalışmanın sınırlamaları nedeniyle zor bir görev olmaya devam ediyor. Araştırma, riskin yalnızca AI yeteneklerine değil, aynı zamanda kullanıcının niyetine, materyallere erişimine ve koruma mekanizmalarının varlığına da bağlı olduğunu vurguluyor.

Çalışmada, güvenlik yaklaşımı eleştiriliyor: genel modeller için etkili olan hizalama yöntemleri, biyolojik sistemlere kötü bir şekilde uyarlanıyor. Araştırmacılar, model yetenekleri eşiğini geliştiricilerin orantılı sorumluluğuyla bağlayan derin savunma stratejisinin uygulanmasını öneriyorlar. Bu, tıbbın ve biyoteknolojinin avantajlarını korurken tehlikeli patojenlerin yaratılma riskini azaltmaya yardımcı olmalıdır.

Model interpretability'nin tehlikeli becerilerin denetimi中的 rolü özel dikkat gösteriliyor. Yazarlar, biyolojik temel modellerde kötü niyetli işlevlerin absenceını doğrulayabilen araçların oluşturulmasının必要 olduğunu savunuyorlar. Çalışma, arXiv lisansı altında dağıtılıyor ve AI-biyoteknoloji alanında gelecekteki düzenleme standartları için bir yön belirliyor.