Dewan Kota Seattle meminta agar keputusan tentang pengalihan panggilan darurat 911 yang dilakukan oleh program kecerdasan buatan (AI) tetap berada di tangan manusia. Tuntutan ini muncul karena kekhawatiran tentang kurangnya pengawasan manusia terhadap keputusan yang dapat memengaruhi respons darurat dan keselamatan publik.

Tuntutan pengawasan manusia oleh Dewan Kota

Anggota dewan menegaskan bahwa pengawasan manusia harus menjadi bagian integral dari mekanisme pengalihan panggilan yang menggunakan AI. Mereka menyatakan bahwa meskipun teknologi dapat membantu dalam proses penyortiran awal, keputusan akhir mengenai penanganan panggilan darurat tidak boleh sepenuhnya diotomatisasi tanpa kontrol manusia yang memadai.

Kekhawatiran terkait pelacakan waktu tunggu dan akuntabilitas

Salah satu titik perhatian utama adalah kemampuan untuk memantau dan melacak waktu tunggu setelah panggilan dialihkan. Dewan menyoroti perlunya prosedur yang jelas untuk mencatat berapa lama penelepon menunggu layanan medis atau respons darurat setelah dialihkan ke layanan perawat, serta mekanisme pelaporan yang transparan agar ada akuntabilitas bila terjadi keterlambatan atau kegagalan respons.

Risiko terlewatnya insiden kritis

Dewan juga mengungkap kekhawatiran bahwa sistem AI mungkin tidak selalu mampu mengenali tanda-tanda kondisi serius yang memerlukan intervensi segera. Potensi terlewatnya insiden kritis menjadi sorotan, terutama ketika proses otomatis mengalihkan panggilan tanpa intervensi manusia yang dapat menilai konteks atau memperdalam pemeriksaan terhadap gejala yang dilaporkan penelepon.

Insiden pemicu: pasien berusia 71 tahun

Dalam menanggapi keprihatinan ini, dewan mendesak adanya evaluasi menyeluruh terhadap prosedur pengalihan panggilan, termasuk audit terhadap keputusan yang diambil oleh program AI dan tinjauan terhadap protokol ketika penelepon dialihkan ke layanan non-darurat seperti layanan perawat.

Permintaan itu juga menekankan pentingnya transparansi mengenai bagaimana sistem AI memutuskan untuk mengalihkan panggilan, parameter apa yang digunakan, dan bagaimana pengecualian atau eskalasi ditangani. Dewan meminta jaminan bahwa ada jalur cepat untuk mengoreksi keputusan yang berpotensi membahayakan keselamatan publik.

Meskipun teknologi AI menawarkan potensi efisiensi dalam pengelolaan panggilan, anggota dewan menegaskan bahwa manfaat tersebut tidak boleh mengorbankan keamanan atau keandalan respons darurat. Mereka menuntut kebijakan yang memastikan adanya intervensi manusia dalam titik-titik krusial proses, agar keputusan akhir tetap mempertimbangkan penilaian profesional dan konteks situasi nyata.

Permintaan Dewan Kota Seattle ini menyoroti dilema yang muncul ketika lembaga publik mengadopsi teknologi otomatis untuk layanan yang berkaitan langsung dengan keselamatan jiwa. Isu pengawasan, akuntabilitas, dan waktu respons kini menjadi fokus pembahasan lebih lanjut di pemerintahan kota, seiring upaya untuk menyeimbangkan inovasi teknologi dengan perlindungan publik.