DeepMind-NHS anlaşması veri yasalarını ihlal etti

The Royal Free NHS Foundation Trust, Information Commissioner’s Office’e (ICO) göre, hastaların ayrıntılarını Google AI firması DeepMind’e sağladığında veri koruma yasasına uymayı başaramadı.

Akut böbrek hasarı için bir uyarı, tanı ve tespit sistemini test etmeye yönelik bir çalışmanın parçası olarak, vakıf, yaklaşık 1,6 milyon hastanın kişisel verilerini Eylül 2015’te DeepMind’a sağladı ve yedi ay sonra Yeni Bilim Adamı.

Bununla birlikte, ICO tarafından yapılan bir araştırma, hastaların verilerinin testin bir parçası olarak kullanılacağı konusunda yeterince bilgilendirilmemesi de dahil olmak üzere, verilerin nasıl işlendiğine dair birkaç eksiklik ortaya çıkardı.

DeepMind, Royal Free ile bir anlaşması vardı ve burada eski, güven tarafından tutulan kişisel olarak tanımlanabilir bilgileri (PII) içeren kısmi hasta kayıtlarını işleyecekti.

Söz konusu PII, tröstün mevcut radyoloji elektronik hasta kayıt sisteminden gelen verilerle birlikte testler için önceki beş yıl içinde tedaviye başvuran kişiler hakkındaki verileri içeriyordu. Anlaşmanın şartları uyarınca DeepMind, klinik güvenlik testi için bu tür yaklaşık 1,6 milyon kısmi kaydı işleyecektir.

Ancak Bilgi Komiseri Elizabeth Denham, bu kayıtların, hastalara bu işlemden haberdar edilmeden klinik güvenlik testi amacıyla işlendiğini belirledi.

ICO, güvene yazdığı bir mektupta, “Komiser, Royal Free’nin, aksi takdirde dahil olan hastaların bilgilendirilmiş rızasını alma ihtiyacını ortadan kaldıracak bir işleme şartını uygun şekilde kanıtladığından memnun değildi ve bu konudaki endişelerimiz devam ediyor” dedi. .

Bu hastaları verilerinin Streams uygulamasının klinik güvenlik testinde kullanılacağı konusunda bilgilendirme mekanizmalarının yetersiz olduğunu ekledi.

ICO, “Kısacası, bugüne kadar sunulan kanıtlar, Komiserin, veri konularının işlemin gerçekleşmekte olduğu konusunda yeterince bilgilendirilmediği ve sonuç olarak işlemenin ne adil ne de şeffaf olduğu sonucuna varmasına neden oluyor” dedi.

Denham yaptığı açıklamada, “Hastalar bilgilerinin bu şekilde kullanılmasını makul bir şekilde beklemeyeceklerdi ve güven, neler olduğu konusunda hastalarla çok daha şeffaf olabilir ve olmalıydı” dedi.

“Güvenden bu eksiklikleri giderecek değişiklikler yapmayı taahhüt etmelerini istedik ve işbirliğine açığız. Veri Koruma Yasası yeniliğin önünde bir engel değil, ancak insanların verilerinin kullanıldığı her yerde dikkate alınması gerekiyor. “

ICO, NHS güvenini veya DeepMind’ı cezalandırmaz. Bunun yerine, vakıftan DeepMind projesi için Veri Koruma Yasası kapsamında uygun bir yasal dayanak oluşturması ve gelecekteki denemeler için uygun bir yasal dayanak oluşturması ve gelecekteki herhangi bir denemede hastalara olan güven görevini nasıl yerine getireceğini belirlemesi istenmiştir. kişisel verileri içeren.

Ayrıca, şeffaflığı sağlamak için belirli adımlar da dahil olmak üzere bir gizlilik etki değerlendirmesini tamamlamalı ve sonuçları Bilgi Komiseri ile paylaşılacak ve Komiser’in gördüğü gibi yayınlama hakkına sahip olacağı bir deneme denetimi yaptırmalıdır. uygun.

DeepMind kurucu ortağı Mustafa Suleyman ve DeepMind Health klinik lideri Dominic King, “Bu vakaya ilişkin ICO’nun özenli çözümünü memnuniyetle karşılıyoruz. Bu, Akışlar için hasta verilerinin sürekli olarak güvenli ve yasal olarak işlenmesini garanti edecektir.”

“Bu çalışma 2015’te başladığında hızlı etki yaratma kararlılığımızda, NHS’nin karmaşıklığını ve hasta verileriyle ilgili kuralların yanı sıra sağlıkta çalışan tanınmış bir teknoloji şirketi hakkındaki potansiyel korkuları hafife aldık” diye eklediler. .

“Neredeyse tamamen hemşirelerin ve doktorların istediği araçları oluşturmaya odaklandık ve çalışmalarımızı hastalar, kamuoyu ve bir bütün olarak NHS tarafından hesap verilip şekillendirilmesi gereken bir şeyden ziyade klinisyenler için teknoloji olarak düşündük. Bunu yanlış anladık ve daha iyisini yapmalıyız. “

İkili, DeepMind’in Kasım 2016’da “çok daha kapsamlı bir sözleşme” ile değiştirdiği Akışlar sözleşmesini kamuoyuna duyurmadaki “hatası” nedeniyle tüm NHS sözleşmelerini yayınladığını söyledi.

DeepMind, o zamandan beri bir hasta ve halk katılımı stratejisi geliştirdiğini ve şu anda DeepMind Health’i incelemekle görevlendirdiği dokuz “bağımsız gözden geçirenin” yayınlanmış bulgularını beklediğini söyledi.