Kendinden emin ama yanlış: denizcilik AI halüsinasyonu riskini fark ediyor

Heves, doğrulamanın önüne geçiyor

Denizciliğin yapay zekâyı hızla benimseme telaşı yeni bir operasyonel tehlike doğuruyor: kendinden emin görünen, faydalı duran ama yanlış olan sistemler. Splash247’nin aktardığına göre üretken AI artık sefer planlaması, bakım, uyum, kiralama, emisyon raporlaması, yük tarama ve gemi üstü karar desteğinde beliriyor — ve bir modelin yanlış veya dayanaksız bilgi üretmesi anlamına gelen “AI halüsinasyonları” da onu sektöre kadar takip ediyor.

Risk varsayımsal değil. Splash247, OpenAI’nin kendi SimpleQA araştırmasının halüsinasyonu süregelen açık bir sorun olarak ele aldığını; Stanford araştırmacılarının ise önde gelen uzman hukuk AI araçlarının hâlâ %17 ila %33 oranında halüsinasyon ürettiğini bulduğunu aktarıyor. Denizcilik de tıpkı hukuk gibi belge yoğun ve yüksek-sorumluluklu bir iştir: yanlış bir madde özeti, hatalı bir liman kısıtlaması, uydurma bir mevzuat gereği ya da kurgusal bir bakım talimatı hızla bir ihtilafa, bir tutuklamaya veya bir sigorta sorununa dönüşebilir.

Kısıt iştah değil, güven

Sektör anketleri de aynı yönü işaret ediyor. IMarEST’in 130 denizcilik profesyoneliyle yaptığı ankette yaklaşık %80’i AI’nın verimliliği artırabileceğine inanıyor; ancak %37’si AI’nın yanlış veya uydurma sonuç ürettiğine bizzat tanık olmuş — ve yalnızca %11’inin resmi bir AI politikası var. BT sağlayıcısı Dualog’un 300 gemi adamı ve zabitle yaptığı ayrı bir ankette teknolojinin kendisine dirençten çok az iz vardı; kısıt güvendi: şirketler, gemi üstü AI’nın açık internet yerine denetlenmiş kaynaklar üzerine kurulmasını istiyordu.

Sorumlu araçların gittiği yer tam da bu ayrım. Örneğin DNV’nin RuleAgent’ı, klas kuruluşunun kendi kural ve standart veritabanında arama yapıyor ve her yanıtı resmî kaynak belgesine bağlıyor — DNV’nin ifadesiyle bir “kara kutu yanıt üreticisi” değil, güvenilir bir başvuru kaynağı olarak konumlanıyor. Mevzuat da hareketleniyor: AB Yapay Zekâ Yasası’nın ceza rejimi, yasaklı uygulamalar için küresel cironun %7’sine veya 35 milyon avroya kadar para cezasına izin vererek AI yönetişimini bir teknoloji tercihi kadar hukuki bir risk hâline getiriyor. Armatörler için pratik cevap kontrollü kullanım: onaylı veri kaynakları, denetim izleri, insan gözden geçirmesi, role dayalı erişim ve net hesap verebilirlik — emniyeti, sözleşmeyi veya uyumu etkileyen her AI çıktısı kullanılmadan önce doğrulanmalı.

Apeks yorumu — Duruşumuz basit: AI fikir ve perspektif için mükemmeldir, ama karar verici olmamalı — daha uzunca bir süre. Hem bir halüsinasyon sorunu hem de bir hesap verebilirlik boşluğu taşıyor: yanlış yaptığında hesabını verecek kimse yok. İyi kullanıldığında — bir arızayı araştırmak, benzer vakaları karşılaştırmak, mühendisin gözünden kaçmış olabileceğini önüne koymak — gerçekten faydalı bir danışmandır. Ama nihai karar da, onunla gelen hesap verebilirlik de ehil bir insanda kalır.