İşyerinde yapay zekâ, örgütlü biçimde itiraz edebilmeyi gerektirir
Bir sistem vardiya planlayabilir, başvuruları sıralayabilir veya performansı özetleyebilir. Böylece gelir, fırsatlar ve iş baskısı üzerinde de etkili olabilir. Bu görüş yazısı yapay zekâya genel bir yasak istemiyor. Kurumların, çalışanların yanlış bir veriyi, makul olmayan bir ölçütü veya eksik bağlamı nasıl inceletebileceğini önceden düzenlemesini savunuyor. Bir insanın onay düğmesine basması bunun için her zaman yeterli değildir.
Bu bir editoryal görüş yazısıdır. Sonuç, gerekçeli bir görüştür ve kişisel hukuki tavsiye değildir.
Bir puan, varsayımları gizleyebilir
Bir verimlilik puanı kesin görünür; oysa seçilen ölçüm yöntemine bağlıdır. Örneğin sonuçlandırılan dosya sayısı, zorluk ve kalite dikkate alınmadan pek az şey söyler. Bir algoritma, çalışanlar hangi ölçütün seçildiğini görmeden bu varsayımları geniş ölçekte uygulayabilir. Hollanda Veri Koruma Kurumu Autoriteit Persoonsgegevens, algoritmik yönetimin özerklik, iş baskısı ve adil ilişkiler açısından risklerine dikkat çekiyor. Buradan çıkardığımız editoryal sonuç şu: Bir kurum, puanı performans, ücret veya çalışabilirlik görüşmelerinde kullanmadan önce kullandığı ölçütü açıklayabilmelidir.
İnsan tarafından değerlendirme zaman ve yetki ister
Sistemin önerisini yalnızca onaylayan bir yönetici, içerik bakımından fazla denge sağlamaz. Gerçek değerlendirme; ilgili verilere erişim, sınırları anlama ve öneriden farklı karar verebilme yetkisi gerektirir. Bunun iş planı içinde uygulamada da mümkün olması gerekir. Kurumların, kararı kimin açıklayacağını ve düzeltmeyi kimin yapabileceğini belirlemesi gerektiğini düşünüyoruz. Herkes sonucun başka yerde belirlendiğini söylerken çalışan; tedarikçi, insan kaynakları ve yönetici arasında kaybolmamalıdır. İşle ilgili bir kararın sorumluluğu teknik zincir içinde ortadan kalkamaz.
Rıza, güç dengesizliğini ortadan kaldırmaz
Çalışanların denetlenmesi için geçerli bir hukuki dayanak, gereklilik ve bilgilendirme dâhil gizlilik koşulları geçerlidir. AP, iş ilişkisinde rızanın özgürce verilmesinin zor olabileceğini vurguluyor. Bu nedenle “kabul ediyorum” yazan bir pencere, izlemeyle ilgili tüm sorulara ikna edici bir cevap değildir. Verilerin hangi amaçla işlendiğini, daha az müdahaleci bir yöntem bulunup bulunmadığını ve hangi verilerin gerçekten gerekli olduğunu konuşun. Bunlar, tedarikçi sistemi yapay zekâ ürünü olarak sunsa da geçerli olan mevcut veri koruma sorularıdır. Yeni bir teknik ad, veri işlemenin niteliğini kendiliğinden değiştirmez.
Çalışan temsili, uygulamayı anlayabilmelidir
Personel denetimine ilişkin düzenlemelerde işyeri temsil kurulunun önceden onayı gerekebilir. Ayrıca çalışanların ve temsilcilerinin sistemin işleyişi ve sonuçları hakkında içerik bakımından bilgiye ihtiyacı vardır. Çekici bir gösterge paneliyle yapılan tanıtım bunun için yeterli değildir. Sistemin hangi verileri kullandığını, hataların nasıl fark edildiğini, hangi grupların farklı etkilenebileceğini ve verilerin ne kadar saklandığını sorun. Bu yayın, yöntem kesinleşmeden önce katılımı savunuyor. Değerlendirmeler etkilendikten sonra yapılan bir görüşme, süreci kişisel zarara yol açmadan geliştirmek için daha az alan bırakır.
Düzeltme yolu gerçek hataya ulaşabilmelidir
Çalışan yalnızca kendi profilindeki bir yazım yanlışını düzeltebilmemeli; seçilen karşılaştırmanın yanlış bir izlenim verdiğini de ortaya koyabilmelidir. Ekip içinde üretim olarak kaydedilmeyen destek görevlerini, uyarlanmış bir çalışma yerini veya kararlaştırılan müsaitliği yeterince dikkate almayan bir vardiya planını düşün. İyi bir yol hem verileri hem de yorumlarını inceler. Kimin, hangi sürede cevap vereceğini ve bu sırada itiraz edilen karara ne olacağını belirleyin. Bu, adil karar verme için sunduğumuz tasarım önerisidir; kesin hukuki yükümlülüklerin her uygulama için ayrıca belirlenmesi gerekir.
Küçük ve denetlenebilir bir kullanımla başlayın
Kurumlar önce hangi sorunu çözmek istediklerini, başarıyı ve hataları nasıl ölçeceklerini belirleyebilir. Sonuçları açıkça sınırlandırılmış küçük bir deneme, hemen her personel kararını bir puana dayandırmadan öğrenmeyi mümkün kılar. Başka bir çalışma yöntemine dönebilme imkânını koruyun. Çalışanlara hangi bağlamın eksik olduğunu sorun ve düzeltmelerin gerçekten işlendiğini kontrol edin. Bu öneriler editoryal tercihlerdir; her yapay zekâ uygulamasının aynı yasal prosedüre tabi olduğu iddiası değildir. Özellikle bir yazı yardımcısı ile insanları sıralayan bir sistem arasındaki fark somut değerlendirme gerektirir.
Karşı görüş: İnsanlar da önyargılıdır ve sistemler daha adil olabilir
Bu, teknoloji kullanımının ciddi biçimde araştırılması için güçlü bir gerekçedir. Bir sistem tutarlılığı destekleyebilir ve bazı hataları daha görünür kılabilir. Fakat olası iyileşme, belirli bir uygulamanın şimdiden iyi çalıştığını kanıtlamaz. Bu yüzden açık bir başlangıç durumuyla karşılaştırın; kaliteyi, sonuçları ve düzeltilebilirliği inceleyin. İtiraz, iyi bir sistemin de daha iyi kullanılmasına yardımcı olur. İnsan önyargılarının fark edilmeden verilere veya tasarıma aktarılmasını ve sonra nesnel sonuç gibi görülmesini önler. Amaç, karar vermenin kanıtlanabilir biçimde iyileşmesi ve bu olmadığında sorumluluğun görünür kalmasıdır.
Algoritmik planlama veya değerlendirmede hangi verilerin ve ölçütlerin kullanıldığını, kararı kimin açıklayabileceğini ve hatanın nasıl düzeltileceğini sor. Bu görüşmeyi sonuç ücretini veya görevini etkilemeden önce düzenle. Editoryal ölçütümüz şudur: Teknoloji, insanların işlerini belirleyen kararlarda anlamlı bir söz hakkını koruduğu zaman iyi çalışmaya ikna edici biçimde katkı sağlar.
Kaynaklar ve editoryal açıklama
Bu kaynaklar, olgusal bağlamı destekler. Görüş, değerlendirme ve sonuç editör ekibimize aittir.
Kaynakların esas alındığı tarih:
- Yayıncı: Autoriteit PersoonsgegevensAutoriteit Persoonsgegevens: işyerindeki algoritmaların riskleriautoriteitpersoonsgegevens.nlhttps://autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/risicos-algoritmes-ai-ontwikkelingen-in-nederland/risicos-algoritmes-op-de-werkvloer
- Yayıncı: Autoriteit PersoonsgegevensAutoriteit Persoonsgegevens: çalışan denetiminin koşullarıautoriteitpersoonsgegevens.nlhttps://autoriteitpersoonsgegevens.nl/themas/werk-en-uitkering/controle-van-werknemers/voorwaarden-voor-controle-werknemers
- Yayıncı: Sociaal-Economische Raad (SER)SER: teknoloji ve işyeri temsil kurulunun rolüser.nlhttps://www.ser.nl/-/media/ser/downloads/overige-publicaties/2018/technologische-ontwikkelingen-or.pdf
Kaynak yayınlar Hollandacadır. Tüm dil sürümleri Hollanda hukukunu ele alır.
Genel bilgilendirmedir. Kişisel hukuki danışmanlığın yerini tutmaz. Bu dil sürümü, resmî Hollanda kaynaklarına dayanan taslak çeviriler içerir. Bağımsız son hukuki inceleme ve ana dil redaksiyonu henüz kaydedilmemiştir.