Suaramuslim.net – Gelombang digital bergerak cepat. Kecerdasan buatan kini dapat merangkum bahan rapat, membaca pola data, menyusun alternatif, bahkan memberi rekomendasi dalam hitungan detik.
Banyak pekerjaan menjadi lebih ringan. Waktu yang dulu tersita untuk pekerjaan teknis dapat digunakan untuk hal lain yang lebih bernilai.
Kecepatan itu membawa pertanyaan baru. Ketika teknologi mulai ikut membentuk bahan pertimbangan, siapa yang memeriksa hasilnya? Kalau rekomendasinya keliru, siapa yang bertanggung jawab? Sampai batas mana sebuah keputusan boleh dipengaruhi oleh sistem yang tidak ikut menanggung akibatnya?
Bagi organisasi cendekia, pertanyaan semacam ini semakin dekat dengan kehidupan organisasi. Bagi penulis, warisan B.J. Habibie mengingatkan bahwa teknologi selalu perlu ditempatkan dalam hubungan dengan manusia dan tujuan pengabdiannya.
Kemajuan bukan sekadar soal kemampuan memakai alat. Ada arah yang perlu dijaga dan akibat yang perlu dipikirkan.
Semangat ini sebenarnya tidak jauh dari dasar organisasi ICMI. ART ICMI Pasal 2 angka 6 dan 7 menempatkan kebebasan dalam sikap independen dan bertanggung jawab, serta kemandirian dalam pemikiran dan pengambilan keputusan.
Di tengah gelombang digital, dua prinsip itu semakin penting: teknologi dapat membantu proses, tetapi arah dan keputusan tetap perlu lahir dari manusia yang memahami akibatnya.
Barangkali persoalan hari ini bukan lagi apakah teknologi akan dipakai atau tidak. Teknologi sudah berada di sekitar kita. Yang lebih menarik untuk dipikirkan adalah bagaimana manusia tetap memimpin ketika teknologi mulai ikut bekerja dalam proses keputusan.
Membaca arah perubahan
Kerangka force field Lewin (1951) membantu membaca perubahan melalui kekuatan yang mendorong dan kekuatan yang menahan.
Dorongannya mudah dikenali. Informasi bertambah, pekerjaan dituntut lebih cepat, dan keputusan sering harus dibuat dalam waktu yang sempit. Teknologi menawarkan banyak kemudahan untuk menjawab keadaan itu.
Di sisi lain, ada hal yang perlu dijaga. Tingkat pemahaman terhadap teknologi tidak selalu sama. Informasi yang tampak meyakinkan belum tentu benar. Data bisa berpindah tanpa disadari. Sistem juga dapat menghasilkan bias, sementara manusia juga dapat terlalu cepat percaya pada hasil yang tersaji rapi.
Dari pengalaman ini dapat dilihat bahwa persoalannya bukan semata pada kecanggihan alat. Yang menentukan justru bagaimana manusia memberinya ruang dan sampai di mana kewenangan itu diberikan.
Perhatian kemudian bergeser pada risiko, batas penggunaan teknologi, dan tanggung jawab manusia dalam setiap keputusan.
Tidak semua keputusan sama risikonya
Memakai teknologi untuk merapikan kalimat tentu berbeda dengan memakainya untuk menilai seseorang. Merangkum bahan bacaan juga berbeda dengan menyusun sikap resmi organisasi.
Data yang sudah terbuka untuk publik tidak dapat diperlakukan sama dengan informasi pribadi atau dokumen internal.
Parasuraman dan Riley (1997) menunjukkan bahwa masalah dapat muncul ketika otomatisasi terlalu dipercaya, terlalu diabaikan, atau diterapkan pada fungsi tertentu tanpa cukup mempertimbangkan akibatnya bagi manusia.
Gagasan ini tetap relevan. Ada orang yang menerima hasil mesin hampir tanpa pertanyaan. Ada pula yang menolak teknologi sebelum melihat manfaatnya.
Jalan yang lebih sehat mungkin berada di tengah. Tidak semua keputusan perlu diperlakukan dengan kadar pengawasan yang sama. Besarnya dampak seharusnya ikut menentukan seberapa kuat manusia perlu hadir dalam prosesnya.
Teknologi memang bekerja cepat, sementara manusia tetap membutuhkan waktu untuk membaca hal yang tidak selalu terlihat dalam data.
Kendali tetap di tangan manusia
Dalam tata kelola AI, pengawasan manusia tetap menjadi prinsip penting. OECD menempatkan human agency and oversight sebagai bagian dari pendekatan AI yang berpusat pada manusia. Artinya, manusia tetap perlu mempunyai ruang untuk menilai, mengawasi, dan mengambil tindakan ketika penggunaan teknologi membawa risiko.
NIST AI Risk Management Framework (AI RMF 1.0) mengenalkan empat fungsi dalam pengelolaan risiko AI: Govern, Map, Measure, dan Manage. Keempatnya saling berkaitan dalam membantu organisasi memahami dan mengelola risiko penggunaan AI.
Dalam praktik, empat fungsi itu membantu organisasi memahami tujuan penggunaan teknologi, membaca konteks dan risikonya, menilai hasilnya, serta mengelola penggunaannya secara berkelanjutan.
Pengetahuan organisasi juga penting dalam proses itu. Keputusan jarang lahir dari satu dokumen atau satu angka. Pengalaman masa lalu, data, catatan kegiatan, pengetahuan orang lain, dan keadaan yang sedang berlangsung sering perlu dibaca bersama.
Knowledge Management tetap mempunyai fungsi dalam proses tersebut. Bukan menjadi pokok pembicaraan artikel ini, melainkan membantu memastikan bahwa keputusan hari ini tidak tercerabut dari pengalaman yang sudah dimiliki organisasi.
Ada hal lain yang lebih mendasar. Teknologi boleh memberi masukan, tetapi keputusan perlu mempunyai nama. Harus jelas siapa yang memeriksa, siapa yang menyetujui, dan siapa yang bersedia menjawab ketika keputusan itu membawa akibat.
Mesin tidak hadir dalam rapat pertanggungjawaban. Manusia tetap harus hadir.
Ketika nilai menjadi tata kelola
Tata kelola sering terdengar seperti bahasa teknis. Padahal, sebagian isinya dekat dengan kebiasaan yang sudah lama kita kenal.
Amanah menemukan bentuknya dalam akuntabilitas. Tabayyun hidup dalam kebiasaan memeriksa informasi. Keadilan meminta manusia waspada terhadap bias. Menjaga kehormatan orang lain juga berarti tidak memperlakukan data pribadi dengan sembarangan.
Prinsip OECD mengenai kecerdasan buatan yang dapat dipercaya antara lain menekankan keadilan, transparansi, keamanan, dan akuntabilitas.
Pertanyaan di balik prinsip-prinsip itu cukup akrab bagi lingkungan cendekiawan muslim: apakah cara yang dipakai dapat dipertanggungjawabkan, apakah ada orang yang dirugikan, dan apakah manusia masih benar-benar memegang keputusan?
Yang mudah terlewat justru perkara kecil. Siapa yang boleh menggunakan data tertentu? Kapan hasil teknologi perlu diperiksa ahli? Apakah seseorang pantas dinilai hanya dari rekomendasi sistem? Siapa yang berhak mengatakan bahwa teknologi sebaiknya tidak digunakan dalam perkara tertentu?
Dalam lingkungan ICMI, percakapan semacam ini rasanya mempunyai ruang yang luas. Ada akademisi, ulama, praktisi teknologi, pendidik, pengusaha, dan orang-orang yang bekerja dalam kebijakan publik dengan pengalaman yang berbeda.
Perjumpaan berbagai sudut pandang dapat membantu sebuah keputusan dibaca dengan lebih matang.
Gagasan ini barangkali dapat dimulai tanpa sistem yang rumit. Sebagai bahan renungan, beberapa batas dapat mulai dipikirkan: pekerjaan apa yang aman dibantu teknologi, mana yang membutuhkan pemeriksaan lebih kuat, dan keputusan apa yang selayaknya tetap berada dalam kendali manusia.
Gelombang digital akan terus bergerak. Teknologinya mungkin berganti nama dan menjadi semakin canggih. Tanggung jawab manusia tidak ikut menghilang.
Secanggih apa pun teknologi membantu membaca data, menyusun pilihan, atau mempercepat pekerjaan, keputusan tetap membawa amanah. Manusia tidak bisa bersembunyi di balik mesin.
Allah mengingatkan, “Sesungguhnya Allah menyuruh kamu menyampaikan amanah kepada pemiliknya. Apabila kamu menetapkan hukum di antara manusia, hendaklah kamu tetapkan secara adil.” (Terjemah Q.S. An-Nisa: 58).
Dalam konteks zaman digital, bagi penulis, ayat ini menjadi pengingat bahwa kewenangan perlu dijaga, keputusan perlu ditimbang, dan tanggung jawab tidak boleh dialihkan kepada alat.
Bagus Suminar
Aktivis ICMI Jawa Timur