Robot yang bisa diterima harus diverifikasi dengan pengalaman!

Robot bedah diterima bukan karena terlihat pintar, tetapi karena presisi tidak dapat dinegosiasikan sejak awal. Setiap tindakan, setiap penilaian, harus dapat dikendalikan, direproduksi dan dapat dipertanggungjawabkan.

Seiring dengan meningkatnya otonomi, standar ini hanya akan lebih tinggi, bukan lebih rendah. Pengawasan, tinjauan keselamatan, pendaratan klinis, tidak pernah menerima kalimat percaya bahwa sistem itu benar pada saat itu. Dalam lingkungan berisiko tinggi, "percayalah" adalah jawaban yang tidak memenuhi syarat dengan sendirinya.

Masalah sebenarnya adalah:

Mengapa sistem membuat keputusan itu pada saat itu?
Apakah ini model yang dinyatakan?
Apakah proses penalaran telah dirusak atau didegradasi?

Jika ini tidak dapat diverifikasi, otonomi tidak dapat diskalakan. Arti dari Proof of Inference ada di sini. Ini bukan tentang membuat sistem lebih kompleks, ini tentang membuat setiap keputusan otonom dapat diverifikasi. Alih-alih menjelaskan setelah fakta, ketika suatu tindakan terjadi, dapat dibuktikan bahwa itu memang telah beroperasi sesuai aturan.

Ketika sistem otonom memasuki bidang utama seperti perawatan kesehatan, industri, dan keselamatan publik, verifikasi bukan lagi pilihan tambahan, tetapi prasyarat untuk otonomi.

#KaitoYap @KaitoAI # Yap @inference_labs