MASYARAKAT INDUSTRI DAN HUBUNGAN PEKERJAAN (AH20903) FLIPPED-BOOK INTERAKTIF (PENILAIAN 3) SEMESTER 4 SESI 2025/2026 TAJUK: BIAS ALGORITMA DALAM PENGAMBILAN PEKERJA: ADAKAH AI BENAR-BENAR ADIL? NAMA NO MATRIK ISAZMEEN BINTI ISHAK BA24110107 AMANDA GRACE FRANCIS MERVYN YAPP BA24110587 NASHRIA BINTI NASER BA24110500 NUR ANISAH BINTI ABD MUTALIP @ TALIP BA24110115 NUR MASLIEYANA BA24160825 ANELA DANIA BINTI RIDZWAN@WAN BA24110389 MOHAMAD NADEEM AKMAL BIN ARIFFIN BA24110028 ARIEY FAYENARY BINTI ROSLEE BA24110199 ARYATUL AQILAH BINTI ABDUL RAHMAN BA24110448 DAYANG SYAFIQAH LIYANA BINTI SHAWAL BA24110568
ISI KANDUNGAN PERKARA MUKA SURAT 1.0 PENGENALAN 2 2.0 KONSEP BIAS ALGORITMA DALAM PENGAMBILAN PEKERJA 3-4 3.0 PUNCA BERLAKUNYA BIAS ALGORITMA 5-6 4.0 KESAN BIAS ALGORITMA TERHADAP HUBUNGAN PEKERJAAN 7-9 5.0 ISU DAN CABARAN SEMASA 10-11 6.0 ANALISIS KES ATAU CONTOH SEBENAR 12-13 7.0 CADANGAN DAN POLISI 14 8.0 PERANAN KESATUAN SEKERJA DAN KERAJAAN 15-18 9.0 KESIMPULAN 19 RUJUKAN 20-22 1
1.0 PENGENALAN Perkembangan Kecerdasan Buatan (Artificial Intelligence, AI) telah membawa perubahan yang ketara dalam bidang pengurusan sumber manusia, khususnya dalam proses pengambilan pekerja. Kini, banyak organisasi menggunakan AI untuk membantu menyaring resume, menilai kelayakan calon dan mempercepatkan proses pemilihan pekerja. Penggunaan teknologi ini bukan sahaja meningkatkan kecekapan, malah dapat menjimatkan masa dan kos pengambilan pekerja (Chen, 2023). Walau bagaimanapun, penggunaan AI turut menimbulkan kebimbangan berkaitan bias algoritma, iaitu keadaan apabila sistem AI menghasilkan keputusan yang tidak adil atau berat sebelah. Bias ini boleh berlaku apabila AI dilatih menggunakan data yang tidak seimbang atau mengandungi unsur diskriminasi, sekali gus menyebabkan sesetengah calon mempunyai peluang yang lebih rendah walaupun memiliki kelayakan yang setara (Hunkenschroer & Kriebitz, 2023). Isu ini semakin mendapat perhatian kerana penggunaan AI dalam pengambilan pekerja semakin meluas. Sekiranya tidak dipantau dengan baik, bias algoritma boleh menjejaskan peluang pekerjaan yang adil, mengurangkan kepercayaan terhadap organisasi dan memberi kesan kepada hubungan pekerjaan. Oleh itu, penggunaan AI perlu disertai dengan pemantauan manusia, ketelusan serta amalan yang beretika bagi memastikan setiap calon dinilai secara adil (Chen, 2023; Hunkenschroer & Kriebitz, 2023). Flipped-book ini membincangkan konsep bias algoritma dalam pengambilan pekerja, punca berlakunya bias, kesannya terhadap pekerja dan organisasi serta cadangan bagi memastikan penggunaan AI dilaksanakan secara lebih adil, telus dan bertanggungjawab. 2
2.0 KONSEP BIAS ALGORITMA DALAM PENGAMBILAN PEKERA 2.1 Maksud Algoritma Algoritma merupakan satu set arahan atau prosedur yang digunakan oleh sistem komputer untuk memproses data dan menghasilkan sesuatu keputusan. Dalam proses pengambilan pekerja, algoritma digunakan bagi menyaring permohonan, mengenal pasti calon yang memenuhi syarat, serta membantu majikan membuat keputusan dengan lebih cepat dan sistematik. Penggunaan algoritma dapat meningkatkan kecekapan proses pengambilan pekerja, terutamanya apabila organisasi menerima jumlah permohonan yang tinggi (Tambe et al., 2019). 2.2 Maksud Bias Algoritma Bias algoritma ialah keadaan apabila sistem AI menghasilkan keputusan yang tidak adil terhadap individu atau kumpulan tertentu. Bias ini boleh berlaku apabila data yang digunakan untuk melatih AI tidak lengkap, tidak seimbang atau mengandungi unsur diskriminasi daripada data terdahulu. Akibatnya, sistem AI boleh menghasilkan keputusan yang memihak kepada sesetengah calon dan menjejaskan peluang calon lain walaupun mereka mempunyai kelayakan yang sama (Mehrabi et al., 2021). 2.3 Bagaimana AI Digunakan dalam Proses Pengambilan Pekerja Pada masa kini, penggunaan AI dalam proses pengambilan pekerja semakin meluas kerana teknologi ini mampu membantu organisasi membuat saringan calon dengan lebih cepat dan sistematik. AI digunakan untuk menyaring resume secara automatik, memadankan kemahiran calon dengan keperluan jawatan, menjalankan ujian penilaian dalam talian serta membantu mengenal pasti calon yang berpotensi untuk dipanggil temu duga. Selain itu, sesetengah organisasi turut menggunakan AI bagi menganalisis jawapan calon semasa temu duga video melalui pengecaman bahasa dan corak komunikasi (Upadhyay & Khandelwal, 2018). Salah satu contoh penggunaan AI dalam pengambilan pekerja ialah Unilever. Syarikat ini menggunakan AI pada peringkat saringan awal calon melalui permainan berasaskan penilaian (gamified assessments) dan temu duga video yang dianalisis oleh sistem AI. Pendekatan ini membantu Unilever mempercepatkan proses pengambilan pekerja, mengurangkan kos dan memudahkan penilaian terhadap ribuan permohonan yang diterima. Walau bagaimanapun, 3
penggunaan AI turut menimbulkan kebimbangan berkaitan ketelusan algoritma, perlindungan data peribadi dan kemungkinan berlakunya bias dalam proses penilaian. Oleh itu, keputusan akhir pengambilan pekerja masih dibuat dengan penglibatan pegawai sumber manusia bagi memastikan proses tersebut kekal adil dan beretika (Hu, 2023). Walaupun AI dapat meningkatkan kecekapan proses pengambilan pekerja, teknologi ini tidak seharusnya menggantikan sepenuhnya peranan manusia. Keputusan yang dibuat oleh AI masih perlu disemak oleh pegawai sumber manusia bagi memastikan proses pemilihan dilakukan secara adil, telus dan bebas daripada diskriminasi. Penggabungan AI dengan pertimbangan manusia dapat membantu organisasi membuat keputusan yang lebih tepat serta mengurangkan risiko berlakunya bias algoritma (Upadhyay & Khandelwal, 2018). 4
3.0 PUNCA BERLAKUNYA BIAS ALGORITMA Organisasi kini menggunakan AI untuk menapis resume, menilai calon dan membantu membuat keputusan pengambilan pekerja kerana proses ini lebih cepat dan menjimatkan masa. Namun begitu, penggunaan AI tidak semestinya menjamin keadilan sepenuhnya. Walaupun teknologi ini dianggap objektif kerana berasaskan data, terdapat pelbagai bukti yang menunjukkan bahawa algoritma AI boleh menghasilkan keputusan yang berat sebelah terhadap sesetengah individu atau kumpulan. Keadaan ini dikenali sebagai bias algoritma, iaitu situasi apabila sistem AI membuat keputusan yang tidak adil akibat kelemahan dalam data atau cara sistem tersebut dibangunkan. Salah satu punca utama bias algoritma ialah penggunaan data sejarah yang telah sedia mengandungi unsur diskriminasi. Sistem AI berfungsi dengan mempelajari corak daripada data masa lalu untuk membuat keputusan pada masa hadapan. Oleh itu, jika data yang digunakan menunjukkan kecenderungan memilih calon daripada kumpulan tertentu, algoritma akan menganggap corak tersebut sebagai sesuatu yang normal dan sesuai untuk diteruskan. Sebagai contoh, sekiranya sesebuah organisasi sebelum ini lebih banyak mengambil pekerja lelaki bagi jawatan teknikal atau pengurusan, sistem AI yang dilatih menggunakan data tersebut mungkin akan lebih cenderung memilih calon lelaki berbanding wanita walaupun kedua-duanya mempunyai kelayakan yang setara. Menurut Barocas dan Selbst (2016), algoritma berpotensi mewarisi dan mengulangi prejudis yang terdapat dalam data sejarah, sekali gus memperkukuhkan ketidaksamaan yang telah wujud dalam masyarakat. Oleh sebab itu, AI sebenarnya boleh mengulangi kesilapan manusia jika data yang digunakan tidak diteliti dengan baik. Selain itu, bias algoritma juga boleh berlaku melalui penggunaan pemboleh ubah proksi atau proxy variables. Pemboleh ubah proksi merujuk kepada maklumat yang secara tidak langsung menggambarkan ciri-ciri peribadi seseorang seperti jantina, kaum atau latar belakang sosial walaupun maklumat tersebut tidak dimasukkan secara langsung ke dalam sistem. Sebagai contoh, maklumat seperti lokasi tempat tinggal, universiti yang dihadiri, tempoh menganggur atau jenis pekerjaan terdahulu boleh mempengaruhi penilaian algoritma. Walaupun data tersebut kelihatan neutral, ia mungkin mempunyai hubungan dengan status sosioekonomi atau kumpulan 5
etnik tertentu. Akibatnya, sesetengah calon boleh menerima penilaian yang lebih rendah walaupun mereka mempunyai kemahiran dan pengalaman yang mencukupi. Situasi ini menunjukkan bahawa diskriminasi boleh berlaku secara tersembunyi dan sukar dikesan dalam sistem AI. Selain faktor teknikal, bias algoritma juga boleh berlaku apabila organisasi terlalu menekankan aspek kecekapan dan ketepatan dalam proses pengambilan pekerja. Kebanyakan sistem AI direka untuk mencari calon yang dianggap paling sesuai berdasarkan corak tertentu dalam data. Walau bagaimanapun, dalam usaha meningkatkan ketepatan ramalan, aspek keadilan kadangkala tidak diberikan perhatian yang mencukupi. Menurut Albaroudi et al. (2024), banyak sistem AI dioptimumkan untuk mencapai prestasi yang tinggi tanpa mengambil kira kesan diskriminasi yang mungkin berlaku terhadap kumpulan tertentu. Akibatnya, walaupun sistem berjaya memilih calon yang memenuhi kriteria organisasi, ia mungkin secara tidak sengaja menyingkirkan calon lain yang sebenarnya berkelayakan. Situasi ini menunjukkan bahawa ketepatan teknologi tidak semestinya membawa kepada keputusan yang adil. Secara keseluruhannya, bias algoritma dalam pengambilan pekerja berlaku akibat beberapa faktor yang saling berkaitan, termasuk penggunaan data sejarah yang berat sebelah, penggunaan pemboleh ubah proksi dan penekanan yang berlebihan terhadap kecekapan sistem. Walaupun AI mampu membantu organisasi mempercepatkan proses pengambilan pekerja, teknologi ini masih terdedah kepada kelemahan yang boleh menjejaskan keadilan 6
4.0 KESAN BIAS ALGORITMA TERHADAP HUBUNGAN PEKERJAAN Penggunaan kecerdasan buatan (AI) dalam pengambilan pekerja kini semakin menjadi amalan utama dalam banyak organisasi moden kerana teknologi ini dilihat mampu meningkatkan kecekapan, mempercepatkan proses saringan calon, serta mengurangkan beban kerja pengurus sumber manusia. AI digunakan untuk menilai resume, menganalisis profil calon, dan dalam sesetengah kes, turut menilai tingkah laku serta komunikasi calon semasa temu duga dalam talian (Cappelli et al., 2019). Walaupun secara teori AI dianggap lebih objektif berbanding manusia, realitinya sistem ini masih bergantung kepada data latihan yang diberikan oleh manusia. Di sinilah timbulnya isu utama iaitu bias algoritma, apabila data yang digunakan mengandungi unsur ketidakseimbangan, stereotaip atau amalan diskriminasi masa lalu (Bogen & Rieke, 2018; Köchling & Wehner, 2020). Apabila keadaan ini berlaku, AI bukan sahaja meniru corak tersebut, malah boleh memperkukuhkannya dalam bentuk keputusan automatik yang sukar dikesan (Ajunwa, 2020). Dalam konteks hubungan pekerjaan, keadaan ini memberi kesan yang sangat luas kerana ia melibatkan bukan sahaja individu pekerja, tetapi juga organisasi, majikan dan struktur sosial secara keseluruhan. Dari sudut pekerja, kesan paling ketara ialah berlakunya penghakisan kepercayaan terhadap proses pengambilan dan pengurusan pekerja. Dalam hubungan pekerjaan yang ideal, pekerja mengharapkan keputusan dibuat berdasarkan merit, kelayakan, pengalaman dan prestasi sebenar. Namun, apabila keputusan tersebut dipengaruhi oleh algoritma yang tidak telus, pekerja mungkin mula merasakan bahawa mereka tidak dinilai secara adil. Lebih membimbangkan, kebanyakan sistem AI beroperasi sebagai “black box”, iaitu proses membuat keputusan tidak dapat dijelaskan secara mudah kepada pengguna (Ajunwa, 2020). Keadaan ini menyebabkan pekerja tidak mengetahui sebab sebenar mereka ditolak atau tidak dipilih, sekali gus mewujudkan rasa ketidakpastian dan ketidakpuasan hati. Apabila situasi ini berterusan, hubungan antara pekerja dan majikan boleh menjadi semakin renggang kerana asas utama hubungan pekerjaan iaitu kepercayaan mula terhakis secara perlahan. Selain itu, bias algoritma juga boleh memberi kesan psikologi dan tingkah laku terhadap pekerja. Pekerja yang merasakan diri mereka tidak mendapat peluang yang adil mungkin mengalami penurunan motivasi, kepuasan kerja dan komitmen terhadap organisasi. Mereka 7
mungkin beranggapan bahawa usaha dan prestasi tidak lagi menjadi faktor utama dalam menentukan kejayaan kerjaya, sebaliknya ditentukan oleh sistem teknologi yang tidak boleh dipersoalkan (Cappelli et al., 2019). Dalam jangka panjang, keadaan ini boleh meningkatkan kadar pusing ganti pekerja (employee turnover), mengurangkan produktiviti serta melemahkan budaya kerja positif dalam organisasi. Dari perspektif organisasi dan majikan, kesan bias algoritma juga tidak boleh dipandang ringan. Walaupun AI digunakan untuk membantu membuat keputusan yang lebih cepat dan efisien, sistem yang bias boleh menyebabkan organisasi kehilangan calon yang berpotensi tinggi. Ini berlaku apabila algoritma cenderung memilih calon berdasarkan corak sejarah yang tidak semestinya relevan dengan keperluan semasa organisasi (Bogen & Rieke, 2018; Köchling & Wehner, 2020). Akibatnya, organisasi mungkin hanya merekrut individu yang “sepadan dengan data lama”, bukannya individu yang benar-benar sesuai untuk cabaran masa depan. Situasi ini boleh mengehadkan inovasi, kreativiti dan kepelbagaian dalam tenaga kerja, sedangkan dalam ekonomi moden, elemen kepelbagaian merupakan faktor penting dalam meningkatkan daya saing organisasi. Selain isu prestasi dan bakat, organisasi juga berdepan risiko reputasi yang semakin serius dalam era digital. Isu berkaitan diskriminasi AI boleh tersebar dengan cepat melalui media sosial dan laporan awam, sekali gus menjejaskan imej organisasi sebagai majikan yang adil. Apabila reputasi tercalar, kesannya bukan sahaja kepada hubungan dengan pekerja sedia ada, tetapi juga kepada keupayaan organisasi menarik bakat baharu, mengekalkan pelanggan serta meyakinkan pelabur. Dalam sesetengah kes, organisasi juga boleh berdepan tindakan undang-undang atau tekanan daripada pihak berkepentingan seperti kesatuan sekerja dan badan pengawal selia (Ajunwa, 2020). Jika dilihat dari perspektif hubungan industri, bias algoritma turut mencabar struktur tradisional pengurusan pekerjaan yang biasanya melibatkan rundingan antara pekerja, majikan dan kesatuan sekerja. Apabila keputusan semakin diautomasi, timbul persoalan baharu tentang siapa yang harus bertanggungjawab terhadap keputusan yang tidak adil. Ketidakjelasan ini mewujudkan “grey area” dalam tadbir urus sumber manusia yang menyukarkan penyelesaian konflik secara konvensional (Ajunwa, 2020). Dalam keadaan tertentu, pekerja mungkin merasakan bahawa mereka tidak mempunyai ruang yang mencukupi untuk mencabar keputusan algoritma, sekali gus meningkatkan risiko ketegangan dalam hubungan pekerjaan. 8
Pada peringkat yang lebih luas, kesan bias algoritma turut memberi implikasi kepada masyarakat dan pasaran buruh secara keseluruhan. Jika algoritma terus dilatih menggunakan data sejarah yang tidak seimbang, ia berpotensi mengukuhkan ketidaksamaan sosial yang sedia ada (Köchling & Wehner, 2020). Golongan tertentu mungkin terus mendominasi peluang pekerjaan, manakala kumpulan lain terus terpinggir walaupun mempunyai kelayakan yang setara. Fenomena ini menunjukkan bahawa AI bukan sekadar alat teknologi, tetapi juga boleh menjadi mekanisme yang menginstitusikan ketidaksamaan jika tidak dikawal dengan baik. Selain itu, keyakinan masyarakat terhadap penggunaan AI juga boleh terjejas sekiranya teknologi ini sering dikaitkan dengan isu diskriminasi. Apabila masyarakat mula meragui keadilan sistem AI, penerimaan terhadap teknologi dalam bidang pekerjaan dan sektor lain mungkin menjadi lebih perlahan (Cappelli et al., 2019). Ini boleh mencetuskan perdebatan etika yang lebih luas mengenai sejauh mana AI patut diberi kuasa dalam membuat keputusan yang memberi kesan langsung kepada kehidupan manusia. Kesimpulannya, bias algoritma dalam pengambilan pekerja bukan sekadar isu teknikal, tetapi merupakan isu yang kompleks dan multidimensi yang melibatkan pekerja, majikan, organisasi, hubungan industri dan masyarakat. Kesan yang timbul bukan hanya berkisar kepada ketidakadilan dalam pemilihan calon, tetapi juga merangkumi penghakisan kepercayaan, penurunan motivasi pekerja, kehilangan bakat organisasi, risiko reputasi, serta pengukuhan ketidaksamaan sosial. Oleh itu, penggunaan AI dalam pengurusan sumber manusia perlu disertai dengan kawalan yang ketat, audit algoritma yang berterusan, serta ketelusan dalam proses membuat keputusan bagi memastikan teknologi ini benar-benar berfungsi sebagai alat untuk meningkatkan keadilan dan bukan sebagai mekanisme yang mengautomasikan diskriminasi dalam dunia pekerjaan. 9
5.0 ISU DAN CABARAN SEMASA Isu dan cabaran semasa berkaitan bias algoritma dalam pengambilan pekerja semakin mendapat perhatian seiring dengan perkembangan pesat penggunaan kecerdasan buatan (AI) dalam pengurusan sumber manusia. Penggunaan AI semakin meluas kerana organisasi melihatnya sebagai satu inovasi yang mampu meningkatkan kecekapan operasi, mempercepatkan proses saringan calon, serta mengurangkan beban kerja manual dalam proses pengambilan pekerja. Walaupun AI sering dianggap mampu meningkatkan objektiviti dan mengurangkan unsur subjektiviti manusia dalam pemilihan calon, realitinya sistem ini masih sangat bergantung kepada data latihan yang digunakan untuk membangunkannya. Kajian menunjukkan bahawa data sejarah yang mengandungi ketidakseimbangan sosial atau amalan diskriminasi terdahulu boleh menyebabkan algoritma mengulangi serta memperkukuh pola tersebut secara tidak langsung dalam keputusan masa depan (Bogen & Rieke, 2018; Köchling & Wehner, 2020). Keadaan ini menjadikan isu bias algoritma sebagai cabaran penting dalam pengurusan sumber manusia moden kerana ia memberi kesan langsung terhadap prinsip keadilan, kesaksamaan peluang, dan integriti dalam pasaran pekerjaan. Antara isu utama yang sering dibincangkan ialah diskriminasi jantina, kaum dan umur dalam proses pemilihan calon. Walaupun AI tidak mempunyai niat atau kesedaran untuk mendiskriminasi seperti manusia, ia beroperasi berdasarkan corak data sejarah yang telah terbentuk dalam sistem sosial yang sedia ada. Jika sesuatu kumpulan lebih dominan atau lebih berjaya dalam data latihan, algoritma cenderung untuk menganggap corak tersebut sebagai “standard kejayaan” dan seterusnya mengekalkannya dalam keputusan masa depan (Barocas & Selbst, 2016). Sebagai contoh, calon lelaki boleh lebih kerap dipilih untuk jawatan tertentu jika data terdahulu menunjukkan dominasi lelaki dalam bidang tersebut, walaupun pada hakikatnya calon wanita mempunyai kelayakan yang setara atau lebih baik. Begitu juga, faktor umur dan latar belakang etnik boleh dipengaruhi secara tidak langsung melalui pemboleh ubah pengganti seperti pengalaman kerja, jenis institusi pendidikan, atau lokasi geografi (Köchling & Wehner, 2020). Diskriminasi seperti ini berlaku secara sistematik, berlapis, dan sukar dikesan kerana ia berlaku dalam bentuk proses automasi yang kompleks dan tidak kelihatan secara langsung kepada pengguna sistem. 10
Selain itu, kekurangan ketelusan algoritma juga menjadi cabaran yang semakin kritikal dalam penggunaan AI dalam pengambilan pekerja. Banyak sistem AI moden beroperasi sebagai “black box”, iaitu proses membuat keputusan tidak dapat dijelaskan dengan jelas walaupun oleh pihak organisasi sendiri. Keadaan ini menyukarkan calon untuk memahami sebab sebenar mereka diterima atau ditolak, di samping mengehadkan keupayaan organisasi untuk memberikan justifikasi yang telus apabila berlaku pertikaian atau ketidakpuasan hati. Dalam konteks ini, isu akauntabiliti menjadi semakin penting kerana keputusan yang tidak dapat dijelaskan dengan baik boleh menjejaskan kepercayaan terhadap sistem pengambilan pekerja serta kredibiliti organisasi secara keseluruhan (Ajunwa, 2020). Di samping itu, isu etika dan privasi turut menjadi perhatian utama dalam penggunaan AI dalam proses pengambilan pekerja. Sistem AI sering menggunakan jumlah data peribadi yang sangat besar, termasuk maklumat pendidikan, sejarah pekerjaan, aktiviti digital, corak komunikasi, dan dalam sesetengah kes, data tingkah laku atau psikometrik calon. Penggunaan data berskala besar ini menimbulkan kebimbangan terhadap sempadan etika dalam pengumpulan dan pemprosesan data, khususnya dari segi sejauh mana data tersebut relevan dengan keperluan pekerjaan serta sama ada calon benar-benar memberikan persetujuan yang jelas dan bermakna (informed consent). Kajian turut menekankan bahawa penggunaan data tanpa kawalan yang ketat boleh membawa kepada risiko pelanggaran privasi serta penyalahgunaan maklumat peribadi dalam sistem pengambilan pekerja digital (Ajunwa, 2020). Secara keseluruhannya, isu dan cabaran semasa ini menunjukkan bahawa walaupun AI membawa banyak manfaat dalam pengambilan pekerja dari segi kecekapan dan kelajuan proses, ia masih mempunyai risiko yang besar terhadap aspek keadilan, etika, dan hak individu. Diskriminasi algoritma, kekurangan ketelusan dalam proses keputusan, serta isu privasi data membuktikan bahawa penggunaan AI tidak boleh dilaksanakan secara sepenuhnya autonomi tanpa pengawasan. Sebaliknya, ia perlu disertai dengan kawalan manusia, dasar organisasi yang jelas, serta pemantauan dan audit algoritma yang berterusan agar teknologi ini benar-benar berfungsi sebagai alat yang menyokong keadilan dalam dunia pekerjaan, bukannya sebagai mekanisme yang menguatkan ketidaksamaan sedia ada (Cappelli et al., 2019; Köchling & Wehner, 2020). 11
6.0 ANALISIS KES ATAU CONTOH SEBENAR Bagi meneliti kesan sebenar kecerdasan buatan (AI) terhadap ekosistem pekerjaan, analisis kes yang komprehensif perlu dijalankan untuk memahami bagaimana bias algoritma berlaku dalam situasi sebenar. Walaupun AI sering dianggap sebagai teknologi yang objektif dan berupaya mengurangkan pengaruh emosi manusia dalam pengurusan sumber manusia, bukti empirikal menunjukkan bahawa tanpa mekanisme tadbir urus yang berkesan, teknologi ini berpotensi menjejaskan hak pekerja serta mengukuhkan ketidaksamaan sosioekonomi yang telah wujud. Oleh itu, analisis ini mengupas isu tersebut melalui dua persepktif utama, iaitu sektor formal yang merangkumi proses pemilihan bakat dan pengurusan kerjaya, serta sektor tidak formal yang memberi tumpuan kepada ekonomi platform di Sabah. Dalam sektor formal, amalan diskriminasi digital dapat dikenal pasti seawall peringkat proses pengambilan pekerja. Penggunaan sistem tapisan resume automatik atau Applicant Traking System (ATS) serta temu duga video yang disokong oleh AI didapati berpotensi menghasilkan bias dari sudut geografi dan bahasa. Berdasarkan kajian oleh Chenawe (2026), yang berasal dari kawasan luar bandar dan pendalaman Sabah seperti Pitas, Beaufort dan Long Pasia sering berdepan risiko diketepikan oleh sistem automatik tersebut, Keadaan ini berpunca daripada kekangan infrastruktur telekomunikasi yang menyebabkan mereka mempunyai jejask digital yang terhad, lalu ditafsir oleh algoritma sebagai kurang berkelayakan atau berisiko tinggi. Selain itu, sistem temu duga video berasaskan AI turut dilaporkan menghadapi kesukaran dalam memahami variasi linguistik tempatan. Loghat Sabah yang unik sering disalah tafsir sebagai petunjuk kurang sebagai petunjuk kurang keyakinan diri atau kelemahan kemahiran komunikasi ( Chenawe, 2026). Akibatnya, teknologi yang dibangunkan berasaskan konteks bandar ini secara tidak langsung mewujudkan ketidakadilan terhadap graduan institusi pendidikan wilayah seperti Universiti Malaysia Sabah (UMS) serta lepasan institusi TVET tempatan dalam persaigan mendapatkan pekerjaan formal. Dalam sektor tidak formal pula, perkembangan ekonomi digital telah mewujudkan satu bentuk eksploitasi moden yang dikenali sebagai pengurusan berasaskan algoritma. Analisis naratif yang dijalankan oleh Jalambu (2026) menunjukkan bahawa pekerja dalam ekonomi, platform, termasuk pemandu e - hailing dan penghantar makanan di bandar - bandar utama Sabah, kini berhadapan dengan isu yang dikenali sebagai ‘kotak hitam’. Dalam situasi ini, 12
pelbagai keputusan penting seperti pengagihan tugasan, penilaian prestasi, penetapan kadar insentif dan penggantungan akaun ditentukan sepenuhnya oleh algoritma syarikat tanpa tahap ketelusan yang mencukupi, Akibatnya, pekerja gig di Sabah bukan sahaja terdedah kepada ketidakstabilan pekerjaan melalui pendapatan yang tidak menentu, malah turut kehilangan akses kepada keadilan prosedural kerana tidak mempunyai mekanisme rayuan yang telus dan berasaskan pertimbangan manusia untuk menyemak atau mencabar keputusan yang dibuat oleh sistem tersebut. (Jalambu, 2026). Keadaan penindasan digital di Sabah menjadi semakin membimbangkan akibat kewujudan jurang perundangan serta kelemahan institusi tradisional yang berperanan melindungi hak pekerja. Menurut Jalambu (2026), perundangan buruh sedia ada termasuk Ordinan Buruh Sabah masih belum menyediakan peruntukan khusus atau garis panduan etika yang jelas bagi mengawal penggunaan dan ketelusan algoritma dalam organisasi. Kekosongan regulasi ini memberi ruang kepada majikan untuk bersandarkan keputusan yang dihasilkan Oleh AI atas alasan objektiviti demi meningkatkan keuntungan syarikat. Pada masa yang sama, kesatuan sekerja di Sabah berdepan pelbagai cabaran seperti kekurangan kepakaran digital dan sumber yang terhad, sekali gus menyukarkan usaha mereka untuk menilai serta mempertikaikan justifikasi teknologi yang dikemukakan oleh majikan dalam proses perundingan kolektif. Sekiranya tiada pembaharuan dasar yang menyeluruh dilaksanakan, penggunaan AI dalam hubungan industri di Sabah berpotensi memperluaskan jurang sosioekonomi antara wilayah serta melemahkan peranan gerakan pekerja tempatan secara berterusan (Jalambu, 2026). 13
7.0 CADANGAN DAN POLISI Bagi menangani isu bias algoritma dan jurang perundangan dalam pasaran buruh di Sabah, Malaysia perlu beralih daripada pendekatan "keabsahan undang-undang semata-mata" kepada "tanggungjawab etika yang proaktif" (Hossain, Miraz, & Ya'u, 2024). Sehubungan itu, Kementerian Sumber Manusia bersama kerajaan negeri dicadangkan untuk menambah baik Ordinan Buruh Sabah dengan memperkenalkan kerangka kawal selia AI yang lebih telus. Berdasarkan amalan seperti EU AI Act, sistem seperti Applicant Tracking System (ATS) dan platform pengurusan pekerja gig wajar diklasifikasikan sebagai sistem berisiko tinggi serta tertakluk kepada audit berkala bagi mengurangkan risiko diskriminasi berdasarkan faktor geografi dan linguistik (Chenawe, 2026; Hossain et al., 2024). Selain itu, dasar buruh perlu memasukkan prinsip ‘Hak untuk Mendapat Penjelasan Manusia’ bagi memastikan keputusan berasaskan AI boleh disemak dan dicabar secara adil. Langkah ini penting untuk mengembalikan keadilan prosedural kepada pekerja formal dan sektor gig yang terkesan oleh sistem ‘kotak hitam’ algoritma (Jalambu, 2026), serta memastikan akauntabiliti berada pada majikan atau pembangunan teknologi (Hossain et al., 2024). Akhir sekali, kerjasama pelbagai pihak perlu diperkukuh bagi meningkatkan literasi digital dalam hubungan industri. Memandangkan kesatuan sekerja di Sabah kekurangan kepakaran teknologi, kolaborasi antara agensi seperti MDEC, institusi akademik seperti UMS, dan wakil pekerja amat diperlukan untuk memperkukuh keupayaan mengaudit sistem AI semasa rundingan kolektif demi kelestarian hubungan industri (Hossain et al. 2024). 14
8.0 PERANAN KESATUAN SEKERJA DAN KERAJAAN Perkembangan teknologi kecerdasan buatan (Artificial Intelligence, AI) dalam proses pengambilan pekerja telah membawa perubahan yang signifikan kepada amalan pengurusan sumber manusia. Walaupun penggunaan AI mampu meningkatkan kecekapan dan mempercepatkan proses pemilihan calon, kewujudan bias algoritma berpotensi menimbulkan ketidakadilan serta diskriminasi terhadap kumpulan tertentu. Oleh itu, peranan kesatuan sekerja dan kerajaan amat penting bagi memastikan penggunaan AI dalam pengambilan pekerja dilaksanakan secara telus, beretika dan tidak menjejaskan hak pekerja serta pencari kerja. 8.1 Memastikan Penggunaan AI Secara Adil dan Saksama Kesatuan sekerja memainkan peranan penting sebagai wakil pekerja dalam memastikan penggunaan AI tidak menafikan prinsip keadilan dan kesaksamaan di tempat kerja. Dalam konteks pengambilan pekerja, kesatuan sekerja boleh bertindak sebagai badan pemantau yang menilai sama ada sistem AI yang digunakan oleh majikan berpotensi menghasilkan keputusan yang berat sebelah terhadap calon tertentu berdasarkan jantina, umur, kaum, latar belakang pendidikan atau status sosial mereka. Menurut Bender et al. (2021), penggunaan sistem AI tanpa pemantauan yang mencukupi boleh mengukuhkan ketidaksamaan sosial yang telah wujud dalam masyarakat kerana algoritma sering mempelajari corak daripada data sejarah yang mungkin mengandungi unsur diskriminasi. Oleh itu, kesatuan sekerja perlu memainkan peranan dalam mendesak organisasi supaya melaksanakan audit algoritma secara berkala bagi memastikan sistem tersebut tidak menghasilkan keputusan yang tidak adil. Selain itu, kesatuan sekerja juga boleh meningkatkan kesedaran pekerja mengenai hak-hak mereka berkaitan penggunaan teknologi AI. Melalui program pendidikan dan latihan, pekerja dapat memahami bagaimana data mereka digunakan serta bagaimana keputusan berkaitan pekerjaan dibuat oleh sistem automatik. Pengetahuan ini penting bagi membolehkan pekerja mempertahankan hak mereka sekiranya berlaku diskriminasi akibat penggunaan AI. 15
8.2 Menggubal Dasar dan Garis Panduan Berkaitan AI Kerajaan mempunyai tanggungjawab utama dalam membentuk rangka kerja perundangan yang jelas bagi mengawal penggunaan AI dalam pengambilan pekerja. Perkembangan teknologi yang pesat menyebabkan banyak negara masih belum mempunyai undang-undang khusus yang mengawal penggunaan AI dalam proses pengambilan pekerja. Ketiadaan garis panduan yang jelas boleh menyebabkan majikan menggunakan teknologi tersebut tanpa mengambil kira implikasi etika dan sosial. Menurut European Commission (2021), penggunaan AI berisiko tinggi, termasuk dalam bidang pekerjaan dan pengambilan pekerja, memerlukan pengawasan yang ketat bagi memastikan hak asasi manusia sentiasa dilindungi. Kerajaan boleh memperkenalkan dasar yang mewajibkan organisasi menjalankan penilaian impak algoritma sebelum sistem AI digunakan dalam proses pengambilan pekerja. Penilaian tersebut bertujuan mengenal pasti potensi diskriminasi dan risiko yang mungkin timbul terhadap calon pekerjaan. Di samping itu, kerajaan juga boleh membangunkan garis panduan kebangsaan berkaitan penggunaan AI yang beretika. Garis panduan ini perlu merangkumi aspek ketelusan algoritma, perlindungan data peribadi, akauntabiliti organisasi serta mekanisme aduan bagi individu yang terjejas akibat keputusan yang dibuat oleh AI. Pendekatan ini dapat memastikan setiap organisasi mempunyai standard yang seragam dalam penggunaan teknologi AI. 8.3 Melindungi Hak Pekerja daripada Diskriminasi Salah satu fungsi utama kerajaan dan kesatuan sekerja adalah melindungi hak pekerja daripada sebarang bentuk diskriminasi. Dalam konteks AI, diskriminasi boleh berlaku apabila algoritma membuat keputusan berdasarkan corak data yang tidak seimbang atau mengandungi kecenderungan tertentu. Situasi ini boleh menyebabkan sesetengah individu dinafikan peluang pekerjaan walaupun mempunyai kelayakan yang setara dengan calon lain. Kesatuan sekerja boleh menyediakan saluran aduan kepada pekerja atau calon yang merasakan mereka menjadi mangsa diskriminasi algoritma. Selain membantu mendapatkan penjelasan daripada majikan, kesatuan sekerja juga boleh menawarkan bantuan perundangan dan 16
nasihat profesional kepada individu yang terjejas. Peranan ini penting bagi memastikan pekerja mempunyai akses kepada keadilan dalam era digital yang semakin kompleks. Pada masa yang sama, kerajaan perlu memastikan undang-undang sedia ada berkaitan diskriminasi pekerjaan diperluaskan bagi merangkumi keputusan yang dibuat oleh sistem AI. Menurut International Labour Organization (ILO, 2025), transformasi digital dalam dunia pekerjaan memerlukan perlindungan hak pekerja yang lebih kukuh bagi mengelakkan teknologi digunakan sebagai alat yang memperkukuhkan ketidaksamaan. Oleh itu, penguatkuasaan undang-undang yang efektif dapat memastikan organisasi bertanggungjawab terhadap setiap keputusan yang dihasilkan oleh sistem AI. 8.4 Menggalakkan Ketelusan dan Akauntabiliti Ketelusan merupakan elemen penting dalam memastikan kepercayaan terhadap penggunaan AI dalam pengambilan pekerja. Banyak sistem AI beroperasi sebagai “kotak hitam” (black box), di mana pengguna tidak mengetahui bagaimana sesuatu keputusan dibuat. Keadaan ini menyukarkan calon untuk memahami sebab mereka ditolak atau dipilih bagi sesuatu jawatan. Dalam situasi ini, kerajaan boleh mewajibkan organisasi memberikan penjelasan yang munasabah mengenai penggunaan AI dalam proses pengambilan pekerja. Organisasi perlu menjelaskan jenis data yang digunakan, kriteria penilaian yang diaplikasikan dan bagaimana keputusan akhir dibuat. Langkah ini dapat meningkatkan akauntabiliti organisasi serta mengurangkan risiko penyalahgunaan teknologi. Kesatuan sekerja pula boleh memainkan peranan sebagai pihak ketiga yang memantau tahap ketelusan organisasi. Mereka boleh bekerjasama dengan majikan untuk menilai keberkesanan sistem AI serta memastikan pekerja tidak dipinggirkan daripada proses membuat keputusan yang memberi kesan kepada kerjaya mereka. 8.5 Memperkukuhkan Kerjasama Antara Kerajaan, Majikan dan Kesatuan Sekerja Pengurusan isu bias algoritma memerlukan kerjasama pelbagai pihak. Kerajaan, majikan dan kesatuan sekerja perlu membentuk pendekatan tripartit yang menekankan penggunaan AI secara bertanggungjawab. Melalui kerjasama ini, pelbagai pihak dapat berkongsi pandangan mengenai cabaran dan risiko yang berkaitan dengan penggunaan AI dalam pengambilan pekerja. 17
Kerajaan boleh menyediakan platform dialog sosial bagi membincangkan isu-isu berkaitan teknologi dan pekerjaan. Majikan pula bertanggungjawab memastikan sistem AI yang digunakan mematuhi standard etika dan perundangan yang ditetapkan. Kesatuan sekerja boleh bertindak sebagai suara pekerja dalam memastikan kepentingan mereka sentiasa diambil kira dalam proses transformasi digital organisasi. Secara keseluruhannya, peranan kesatuan sekerja dan kerajaan adalah sangat penting dalam memastikan penggunaan AI dalam pengambilan pekerja dilaksanakan secara adil, telus dan bertanggungjawab. Melalui penggubalan dasar yang komprehensif, pengawasan yang berkesan serta perlindungan hak pekerja yang kukuh, risiko bias algoritma dapat dikurangkan dan manfaat AI dapat dinikmati secara lebih seimbang oleh semua pihak. 18
9.0 KESIMPULAN Secara keseluruhannya, penggunaan kecerdasan buatan (Artificial Intelligence, AI) dalam proses pengambilan pekerja telah mengubah amalan pengurusan sumber manusia dengan meningkatkan kecekapan, mempercepatkan saringan calon dan membantu organisasi membuat keputusan berasaskan data. Walau bagaimanapun, penggunaan teknologi ini turut menimbulkan isu bias algoritma yang boleh menyebabkan ketidakadilan dalam pemilihan calon sekiranya sistem AI dibangunkan menggunakan data yang tidak seimbang atau mengandungi unsur diskriminasi. Perbincangan dalam flipped book ini menunjukkan bahawa bias algoritma boleh memberi kesan kepada pencari kerja, majikan, organisasi dan masyarakat secara keseluruhan. Selain menjejaskan peluang pekerjaan yang adil, isu ini turut menimbulkan cabaran berkaitan ketelusan algoritma, akauntabiliti keputusan, perlindungan data peribadi dan kepercayaan terhadap sistem pengambilan pekerja. Oleh itu, penggunaan AI perlu disertai dengan pemantauan yang berterusan serta penglibatan manusia bagi memastikan keputusan yang dibuat kekal adil dan beretika. Sehubungan itu, kerjasama antara kerajaan, majikan dan kesatuan sekerja amat penting dalam mewujudkan sistem pengambilan pekerja yang lebih telus dan bertanggungjawab. Melalui penggubalan dasar yang jelas, audit algoritma secara berkala serta perlindungan hak pekerja yang berkesan, risiko bias algoritma dapat dikurangkan. Dengan pendekatan yang seimbang antara kemajuan teknologi dan nilai kemanusiaan, AI berpotensi menjadi alat yang menyokong keadilan, kesaksamaan dan kemampanan dalam dunia pekerjaan pada masa hadapan. 19
RUJUKAN Ajunwa, I. (2020). The paradox of automation as anti-bias intervention. Cardozo Law Review, 41(5), 1671–1742. https://par.nsf.gov/servlets/purl/10267581 Albaroudi, E., Mansouri, T., & Alameer, A. (2024). A comprehensive review of AI techniques for addressing algorithmic bias in job hiring. AI, 5(1), 383–404. https://doi.org/10.3390/ai5010019 Barocas, S., & Selbst, A. D. (2016). Big data’s disparate impact. California Law Review, 104(3), 671–732. https://doi.org/10.15779/Z38BG31 Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (pp. 610–623). Association for Computing Machinery. https://doi.org/10.1145/3442188.3445922 Bogen, M., & Rieke, A. (2018). Help wanted: An examination of hiring algorithms, equity, and bias. Upturn. Cappelli, P., Tambe, P., & Yakubovich, V. (2019). Artificial intelligence in human resources management: Challenges and a path forward. California Management Review, 61(4), 15–42. https://doi.org/10.1177/0008125619867910 Chen, Z. (2023). Ethics and discrimination in artificial intelligence-enabled recruitment practices. Humanities and Social Sciences Communications, 10(1).https://doi.org/10.1057/s41599-023-02079-x Chenawe, N. (2026). Analisis Kritis Bias Algoritma dan Diskriminasi Digital dalam Pengambilan Pekerja serta Implikasinya Terhadap Pasaran Buruh di Sabah. Available at SSRN 6663639. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6663639 European Commission. (2021). Proposal for a regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts. European Commission. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206 20
Fadly, M., Resti, A., Afriyanti, W. D., Afrida, W., & Satriadi, S. (2026, January). ETIKA AI DALAM MANAJEMEN TALENTA: ANALISIS BIAS ALGORITMA DALAM PROSES REKRUTMEN DAN PROMOSI. In PROSIDING SEMINAR NASIONAL UNARS (Vol. 4, No. 1, pp. 252-259). https://www.unars.ac.id/ojs/index.php/prosidingSDGs/article/download/7870/6105 Hossain MB, Miraz MH, Ya'u A. (2024).From legality to responsibility: Charting the course for AI regulation in Malaysia. IIUM Law Journal. 2024 May 31;32(1):397-429. https://journals.iium.edu.my/iiumlj/index.php/iiumlj/article/download/927/475 Hu, Q. (2023). Unilever‘s practice on AI-based recruitment. Highlights in Business, Economics and Management, 16, 256-263. https://pdfs.semanticscholar.org/c4bd/5d281b6d06afad5dd15f50b4de3e31746d3a.pdf?utm Hunkenschroer, A. L., & Kriebitz, A. (2023). Is AI recruiting (un) ethical? A human rights perspective on the use of AI for hiring. AI and Ethics, 3(1), 199-213.https://link.springer.com/article/10.1007/s43681-022-00166-4 International Labour Organization. (2025). Generative AI and jobs: A refined global index of occupational exposure. International Labour Organization. https://www.ilo.org JALAMBU, N. A. (2026). Bias Algoritma dan Imperatif Perlindungan Hak Pekerja dalam Era Ekonomi Digital. Available at SSRN 6622521. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6622521&utm Köchling, A., & Wehner, M. C. (2020). Discriminated by an algorithm: A systematic review of discrimination and fairness in automated decision-making. Business Research, 13(3), 795–848. https://doi.org/10.1007/s40685-020-00121-w Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2021). A survey on bias and fairness in machine learning. ACM computing surveys (CSUR), 54(6), 1-35. https://dl.acm.org/doi/abs/10.1145/3457607 21
Tambe, P., Cappelli, P., & Yakubovich, V. (2019). Artificial intelligence in human resources management: Challenges and a path forward. California management review, 61(4), 15-42. https://papers.ssrn.com/sol3/Delivery.cfm?abstractid=3263878 22