Etika dalam Inovasi Digital
Editor: Suci Lestari Yuana, MIA
Kisah ChatGPT dan Perpecahan OpenAI
Pada 17 November 2023, CEO OpenAI, Sam Altman, mendadak dipecat akibat ketidaksetujuan ideologis dengan dewan perusahaan. Namun, dalam kejutan lain, pada 22 November 2023, Altman secara resmi kembali menjabat sebagai CEO setelah terjadi perombakan struktur kepemimpinan. Peristiwa ini mencerminkan kompleksitas dalam mengelola inovasi yang bertanggung jawab. Dalam reportasenya, Hao dan Warzel (2023) menginvestigasi puncak kompleksitas inovasi di OpenAI terjadi setelah peluncuran ChatGPT yang memperdalam ketegangan internal dan menyoroti tantangan perusahaan dalam menjaga keseimbangan antara visi komersial dan komitmen pada keamanan serta etika. Dengan bergabungnya Microsoft sebagai “non-voting observer” dalam dewan, kolaborasi antara OpenAI dan perusahaan teknologi tersebut semakin menguatkan fokus pada inovasi yang bertanggung jawab. Tidak seperti perusahaan teknologi lainnya, OpenAI tidak dirancang untuk mengikuti nilainilai yang mendominasi industri teknologi pada umumnya. Sejak berdiri pada tahun 2015 sebagai organisasi nirlaba, OpenAI bertekad menciptakan kecerdasan buatan umum/ artificial general intelligence (AGI) yang bermanfaat bagi “manusia secara keseluruhan.” Dalam cita-cita ini OpenAI beroperasi layaknya fasilitas penelitian dengan orientasi nirlaba yang terlihat jelas dalam slogan perusahaan “Creating safe AGI that benefits all humanity”…
Detail Terbitan
- ISSN: 2614-2449
- Volume: 7
- Nomor: 2
- Tahun Terbit: Desember 2023
Abstrak
ETIKA TEKNOLOGI DALAM APLIKASI KENCAN DARING MENURUT PRINSIP RESPONSIBLE INNOVATION
Tane Andrea Hadiyantono | Varrel Vendira Rizlah Putra
Aplikasi kencan daring merupakan media sosial dan inovasi teknologi yang bertujuan untuk mempertemukan individu guna menjalin sebuah hubungan, umumnya dalam bentuk romantis atau pertemanan semata. Di satu sisi, aplikasi ini memungkinkan orang untuk terhubung tanpa batasan geografis, prasangka rasial, dan ruang aman bagi komunitas LGBTQ untuk mencari hubungan baru. Namun, aplikasi ini berpotensi menimbulkan masalah karena kurangnya aspek keamanan sehingga penipu daring atau online scammer dapat memanfaatkan aplikasi tersebut untuk menjaring perempuan rentan dan kaya, seperti yang diilustrasikan di dalam film dokumenter “Tinder Swindler”. Selain itu, sebagai layanan yang penuh data dan algoritma, aplikasi ini turut memiliki tantangan dalam aspek keamanan data, privasi, cyberstalking, dan perdagangan data. Sayangnya, meskipun pengembang aplikasi telah melakukan tindakan pencegahan, aplikasi tersebut terus menyebabkan peningkatan kasus kekerasan berbasis gender online (KGBO). Tulisan ini berargumentasi bahwa aplikasi kencan daring harus mematuhi kerangka inovasi yang bertanggung jawab atau responsible innovation dari Stilgoe, Owen dan Macnaghten (2013) yang membahas empat dimensi etika dalam teknologi, yaitu antisipasi, refleksivitas, inklusi, dan tingkat respons. Dengan menggabungkan kerangka kerja ini, aplikasi kencan dapat menciptakan produk yang lebih aman dan berkelanjutan.
Kata kunci: aplikasi kencan online, KGBO, responsible innovation
THE ETHICS OF AI IN EDTECH
M. Aditya Dwi Sukmara | Larasati Budiyani | Intan Dekawati Puteri
Difusi teknologi AI diidentifikasikan memiliki kompleksitas tantangan etis yang berbeda-beda dalam implementasinya, tak terkecuali di sektor pendidikan. Dalam hal ini, EdTech (Educational Technology) hadir sebagai aktor yang mampu mendistribusikan teknologi AI dalam bidang pendidikan dengan didasarkan pada negara, pasar, dan target konsumennya masing-masing. Terlepas dari berbagai perdebatan mengenai kelebihan dan kekurangannya, AI dalam pendidikan dan pembelajaran menimbulkan banyak pertanyaan etis mengenai bagaimana seharusnya nilai-nilai etika AI direalisasikan dalam praktiknya. Khususnya, tentang bagaimana implementasi nilai-nilai etika yang dilakukan oleh EdTech seperti RuangGuru dan Duolingo.
Pada studi kasus Indonesia, daya serap teknologi AI di sektor pendidikan masih tergolong rendah jika dibandingkan dengan sektor lainnya pada lingkup negara-negara Asia Pasifik. Penyebabnya, faktor-faktor pendukung kesiapan adopsi teknologi AI di Indonesia masih belum mendapatkan perhatian serius, terutama dalam menghadapi tantangan dan resiko di masa depan. Hal ini ditambah dengan belum dijumpai adanya regulasi mengenai penggunaan teknologi AI baik yang digunakan oleh institusi pendidikan maupun perusahaan di bidang tersebut.
Berdasarkan hal tersebut, tulisan ini bertujuan memberikan referensi dalam memahami fenomena AI di bidang pendidikan sekaligus menjadi pedoman implementasi teknologi AI dengan berdasarkan pada nilai-nilai etika. Tulisan ini berfokus pada implementasi teknologi AI di dalam Edtech platform RuangGuru dan Duolingo dianalisis
menggunakan Framework Responsible Innovation: Antisipasi, Refleksivitas, Inklusi, dan Daya Tanggap. Harapannya, pada saat teknologi AI sudah matang terdapat kesiapan Indonesia dalam menerima dan memanfaatkan teknologi AI secara bertanggung jawab.
Kata kunci: Artificial Intelligence, EdTech, Ethics, Responsible Innovation
BIG DATA YANG BERTANGGUNG JAWAB: STUDI ATAS APLIKASI SATU SEHAT DI INDONESIA
(PERSPEKTIF RESPONSIBLE INNOVATION)
Indah Nur Arifa | Luky Maulana Firmansyah
Pemerintah Indonesia memanfaatkan inovasi teknologi berupa aplikasi sebagai salah satu langkah untuk mengentaskan pandemi virus corona. Semula, kehadiran aplikasi bernama Peduli Lindungi itu memiliki fungsi untuk membantu upaya pelacakan kontak dan skrining kesehatan. Dalam perkembangannya, fungsi aplikasi itu mengalami perluasan dengan menjadi sistem yang memungkinkan untuk menyimpan data kesehatan masyarakat.
Dengan demikian, pemerintah secara tidak langsung telah menerapkan teknologi big data pada sektor kesehatan. Pemanfaatan inovasi teknologi tersebut berisiko menghadirkan persoalan etika dalam kerangka perspektif inovasi yang bertanggung jawab. Penelitian ini menemukan bahwa aplikasi yang belakangan bernama Satu Sehat menyimpan persoalan etika dalam empat indikator, yakni antisipasi, refleksivitas, inklusi, dan responsivitas. Temuan lainnya, yakni pemanfaatan aplikasi Satu Sehat belum dilakukan sesuai dengan paradigma data sebagai barang publik. Masyarakat yang mengakses aplikasi ini bukan karena partisipasi sukarela, melainkan kewajiban dari pemerintah. Pun demikian, aplikasi Satu Sehat juga belum memiliki dimensi transparansi yang memadai. Penelitian ini merekomendasikan kepada pemerintah untuk memperbaiki sejumlah aspek yang berisiko melanggar etika demi menjaga keberlanjutan aplikasi di masa mendatang.
Kata kunci: Big Data, Aplikasi Kesehatan, Inovasi yang Bertanggungjawab
INOVASI YANG BERTANGGUNG JAWAB: ROBOTIKA DALAM DUNIA KESEHATAN
Beny Setiadi | Ibrahim Muhammad Ramadhan | Nadaa Nabila
Dewasa ini, adanya transformasi digital menciptakan kemudahan diberbagai sektor. Salah satu sektor yang memanfaatkan transformasi digital yakni sektor kesehatan yang semakin gencar memanfaatkan kolaborasi antara robot dan artificial intelligence. Saat ini, penggunaan robotika dan otomatisasi semakin luas hingga ke laboratorium penelitian. Sebut saja tugas-tugas manual telah terotomatisasi secara mudah, robot membantu untuk membatasi kontak antar pasien di bangsal penyakit menular, memudahkan identifikasi obat sehingga lebih efisien. Tiongkok menjadi salah satu negara yang secara massif memberikan pelayanan kesehatan melalui teknologi robotika dalam dua dekade terakhir. Disusul Jepang menjadi negara yang mengembangkan robot untuk merawat orang lanjut usia dalam mobilitas sehari-harinya. Krisis populasi di Tiongkok sedikit banyak telah memengaruhi jumlah pasien yang memerlukan pembedahan dan rehabilitasi, sehingga peminatan robot medis kian besar. Di Jepang, sekitar 15% panti jompo telah mengadopsi robot, juga dikarenakan oleh penuaan populasi dan kekurangan pengasuh. Seiring urgensi situasi tersebut, sayangnya lebih banyak perhatian difokuskan pada pesatnya perkembangan robot, dan kurang pada aspek etika dari sistem robotika. Berdasarkan hal tersebut, tulisan ini berusaha untuk memberikan pandangan mengenai fenomena penggunaan robot dalam kehidupan manusia tanpa mengesampingkan etika. Etika diharapkan dapat memberikan panduan sehingga penggunaan robot memberikan efek yang positif kepada manusia. Penelitian ini akan berfokus kepada implementasi penggunaan robot khususnya di negara Tiongkok dan Jepang sebagai negara-negara yang maju dalam bidang ini. Sehingga pada akhirnya diharapkan dapat menjadi refleksi bagi negara Indonesia dalam menerapkan penggunaan robot yang pengembangannya mempertimbangkan etika secara keseluruhan.
Kata kunci: robotika, kesehatan, etika
ALGORITMA REKOMENDASI YOUTUBE – DIALEKTIKA ETIS TEKNO-SOSIAL
Mu’ammar Alif Zarkasi Sukma Raga
Youtube telah menjadi salah satu tempat media yang diakses oleh banyak orang dari banyak negara. Walau ia dioperasionalkan sebagai jasa dari perusahaan privat Google, kesuksesan Youtube sebagai tempat pemutar video daring memberikannya signifikansi laiknya media massa publik seperti televisi. Salah satu parameter kesuksesan sebuah video dalam Youtube adalah popularitasnya, yang diukur dari jumlah tayangan (views) dan juga iklan yang ditampilkan dalam video tersebut (monetization). Popularitas video dalam Youtube sendiri banyak diatributkan ke bagaimana algoritma rekomendasi Youtube “menyarankan” video tersebut ke linimasa penggunanya yang mengakses. Semenjak suksesnya Youtube, telah banyak masalah etis yang diatributkan terkait dengan masalah sosial maupun masalah ekonomi yang tertaut antara satu sama lain. Sebuah video bisa jadi populer karena ia mengandung konten disinformatif yang agitatif dan mendulang banyak tampilan iklan, atau sebuah pencipta video bisa rugi secara finansial karena video ciptaannya tidak direkomendasi karena tersandung masalah hak cipta ataupun kontennya yang tidak ramah iklan. Tulisan ini berusaha untuk mengeksplorasi algoritma rekomendasi Youtube sebagai dialektika antara solusi teknis-teknologis, dan juga realita sosial yang dipengaruhi dan mempengaruhi pengguna dari algoritma itu sendiri. Tujuan dari paper ini adalah membantu menemukan solusi etis terhadap dilemma-dilema yang dihasilkan, dengan harapan diterapkannya inovasi yang bertanggung-jawab.
Kata kunci: Youtube, algoritma rekomendasi, social construction of technology, actornetwork theory, responsible innovation
Baca edisi lain
