Kabar Teknologi – Google Whistleblower Meluncurkan Proyek Untuk Menjaga Teknologi Tetap Etis

Karyawan perusahaan teknologi harus memiliki hak untuk mengetahui kapan mereka mengerjakan proyek yang menurut etika tidak dapat diterima, kata seorang mantan pelapor Google .

Pada tahun 2018, Jack Poulson menjadi berita utama setelah ia mengundurkan diri dari pekerjaannya di Google karena rencana perusahaan (yang sekarang sudah dihapus ) untuk membangun sensor AI untuk pasar pencarian Cina. Sekarang, dia ingin memastikan bahwa pekerja teknologi lainnya dapat memperjuangkan apa yang benar tanpa harus mempertaruhkan mata pencaharian mereka.

Poulson telah memulai Tech Enquiry, sebuah nirlaba yang bertujuan untuk memudahkan para pembuat kode dengan hati nurani untuk berbicara di dalam perusahaan mereka ketika mereka merasa batas-batas etika dilanggar. Yang sama pentingnya, dia mendorong transparansi yang lebih besar untuk mencegah pekerja hanya diperdaya untuk melakukan pekerjaan yang tidak akan pernah mereka lakukan secara sukarela.

“Saya percaya pekerja teknologi perlu mendapat persetujuan tentang kapan pekerjaan mereka dapat menyebabkan hilangnya nyawa atau penindasan hak asasi manusia atau kebebasan,” kata Poulson kepada Guardian di London, di mana ia akan berbicara pada konferensi tahunan Open Rights Groupmengenai data dan demokrasi pada hari Sabtu. “Bagaimana kami membantu pekerja teknologi yang melihat ada yang tidak beres? Bagaimana kita memastikan mereka memiliki jalan yang tepercaya, di suatu tempat untuk dijangkau, yang tidak harus langsung ke wartawan? “

Tujuan dari Tech Enquiry adalah untuk memanfaatkan gelombang ketidakpuasan karyawan yang telah menyebar di Silicon Valley, dan memberi para pekerja alat yang mereka butuhkan untuk menghadapi bos mereka dan informasi yang mereka perlu ketahui ketika pushback itu diperlukan. Pendirian Poulson sendiri terhadap Project Dragonfly, upaya Google untuk membangun mesin pencari yang disensor untuk memasuki kembali pasar Cina, adalah salah satu contoh dari pergerakan itu. Dia juga mengutip pushback dalam Google terhadap Project Maven, sebuah proyek Pentagon AI yang ditandatangani perusahaan pada April 2017, serta pergerakan di perusahaan lain termasuk Microsoft, Amazon dan Intel.

Kunci untuk Poulson adalah memperluas kekuatan itu kepada pekerja dalam fase desain dan pengembangan industri, di mana pekerjaan sering dilakukan dalam kerahasiaan terbesar dan publik memiliki kemampuan paling sedikit untuk memulai keributan jika bergerak ke arah yang berbahaya atau mengkhawatirkan. . “Secara internal, dan terutama di departemen penelitian seperti saya, ada perasaan bahwa Anda memiliki pass bebas sampai Anda benar-benar siap untuk menekan tombol untuk meluncurkannya.”

Ketika Dragonfly diungkapkan kepada publik, misalnya, “respon dari [CEO Google] Sundar Pichai adalah untuk mencoba dan berpendapat bahwa tidak boleh ada pertanggungjawaban karena ini ‘hanya proyek eksplorasi’ … Dan ini bukan hanya khusus untuk Capung. Saya mengalami ini di YouTube, pada sebuah proyek yang melakukan mesin rekomendasi percakapan. “

Orang dewasa cenderung tidak mencari secara percakapan, Poulson menjelaskan, alih-alih mengetik pertanyaan yang lebih terstruktur: daripada mencari “bagaimana cara mengikat dasi kupu-kupu”, mereka mungkin hanya mencari “dasi kupu-kupu bagaimana”. Karena itu, YouTube harus menemukan dataset yang lebih baik untuk fokus pada permintaan yang lebih alami, dan memilih pengguna anak.