Quyền con người trong việc quản lý tư pháp Báo cáo của Tổng thư ký

Giới thiệu
1. Báo cáo này được đệ trình theo Nghị quyết 77/219 của Đại hội đồng, trong đó Đại hội đồng yêu cầu Tổng thư ký đệ trình lên Đại hội đồng tại kỳ họp thứ bảy mươi chín một báo cáo về những diễn biến mới nhất, những thách thức và thông lệ tốt về nhân quyền trong việc quản lý tư pháp, bao gồm cả việc áp dụng công nghệ số trong việc quản lý tư pháp và các hoạt động do hệ thống Liên hợp quốc thực hiện. Báo cáo này dựa trên thông tin nhận được từ các quốc gia thành viên, các thực thể của Liên hợp quốc, các cơ chế nhân quyền và xã hội dân sự, cũng như các nghiên cứu bên ngoài.1
2. Công nghệ số có tiềm năng góp phần cải thiện khả năng tiếp cận công lý; tuy nhiên, nếu không được phát triển và sử dụng theo cách tuân thủ nhân quyền, các công nghệ đó có thể làm trầm trọng thêm bất bình đẳng và phân biệt đối xử, ảnh hưởng không cân xứng đến các cá nhân và nhóm thiểu số và có khả năng ảnh hưởng đến các quyền liên quan đến việc quản lý công lý, đặc biệt là quyền tự do và an ninh, quyền được xét xử công bằng và quyền không bị tra tấn và ngược đãi.2 3. Tổng thư ký, các thực thể của Liên hợp quốc, các chuyên gia và cộng đồng quốc tế thừa nhận rằng việc phát triển, triển khai và sử dụng các công nghệ số và trí tuệ nhân tạo (AI)
3 nên được neo giữ trong quyền con người. 4 Một trong những mục tiêu của hiệp ước kỹ thuật số toàn cầu, theo đề xuất của Tổng thư ký, là “biến quyền con người thành nền tảng của một tương lai kỹ thuật số cởi mở, an toàn và bảo mật, với nhân phẩm là cốt lõi”. 5 Hơn nữa, Tổng thư ký đã chỉ ra rằng “việc sử dụng công nghệ của các quốc gia thành viên cũng phải phù hợp với các tiêu chuẩn nhân quyền quốc tế”. 6
II. Khung pháp lý và nghĩa vụ của Nhà nước
4. Các chuẩn mực về quyền con người liên quan đến việc quản lý công lý được nêu trong Tuyên ngôn Quốc tế Nhân quyền và Công ước Quốc tế về các Quyền Dân sự và Chính trị. Công ước công nhận các quyền không bị phân biệt đối xử (điều 2, đoạn 1); biện pháp khắc phục hiệu quả (điều 2, đoạn 3); quyền được sống (điều 6); quyền không bị tra tấn và ngược đãi (điều 7); quyền tự do và an ninh (điều 9); quyền bình đẳng trước tòa án và tòa án xét xử và quyền được xét xử công bằng (điều 14). Các quyền liên quan khác có thể bị ảnh hưởng bởi việc sử dụng công nghệ kỹ thuật số và AI trong việc quản lý công lý là quyền riêng tư (điều 17); quyền tự do ngôn luận (điều 19); quyền tụ họp ôn hòa (điều 21); quyền tự do của hiệp hội (điều 22). Các hiệp ước nhân quyền có liên quan khác bao gồm Công ước chống tra tấn và các hình thức đối xử hoặc trừng phạt tàn ác, vô nhân đạo hoặc hạ nhục khác, Công ước quốc tế về xóa bỏ mọi hình thức phân biệt chủng tộc, Công ước về quyền trẻ em, Công ước về xóa bỏ mọi hình thức phân biệt đối xử với phụ nữ và Công ước về quyền của người khuyết tật.
5. Phần này tập trung vào các hệ thống AI, nêu bật một số loại công nghệ số được sử dụng trong việc quản lý tư pháp, bao gồm các ứng dụng của các công nghệ đó trong nhà tù, quản lý tòa án, phiên điều trần trực tuyến và giám sát điện tử, cũng như các ứng dụng công nghệ thần kinh. Phần này bao gồm phân tích về tác động của các hệ thống và công nghệ đó đối với các quyền con người cụ thể.
6. Việc tập trung vào các hệ thống AI là quan trọng, vì các hệ thống như vậy là một thành phần của nhiều công nghệ kỹ thuật số. Theo quan điểm về quyền con người, những thách thức chung khi sử dụng các hệ thống AI liên quan đến cách chúng được phát triển, cách chúng hoạt động, cách chúng được giám sát và liệu có đủ các biện pháp bảo vệ và giám sát hay không. 14 Có sự không chắc chắn về kết quả đầu ra của các thuật toán AI do các yếu tố xác suất của chúng và về tác động của các thuật toán đối với quyền con người. 15 Các thuật toán AI không có khả năng đưa ra các dự đoán chắc chắn; thay vào đó, chúng đưa ra các phép ngoại suy dựa trên các tập dữ liệu trong quá khứ. 16 Các quy trình ra quyết định của nhiều hệ thống AI vẫn còn mơ hồ, điều đó có nghĩa là các hệ thống như vậy là "hộp đen" được các thuật toán phức tạp đọc và diễn giải. Các hệ thống AI vẫn không thể đưa ra lời giải thích minh bạch về lý do đằng sau các dự đoán và khuyến nghị được đưa ra. 17 Ngoài ra, công nghệ đằng sau các thuật toán được sử dụng trong các mô hình độc quyền thường được bảo vệ khỏi
giám sát bên ngoài, thông qua việc sử dụng sai các biện pháp bảo vệ sở hữu trí tuệ. 18 Do bản chất hoạt động của các hệ thống AI, cùng với việc thiếu công bố dữ liệu, việc giám sát có ý nghĩa các khuyến nghị do AI thúc đẩy có thể là một thách thức, điều này có thể là trở ngại đối với trách nhiệm giải trình hiệu quả khi các hệ thống AI gây hại đến quyền của cá nhân,19 và thậm chí còn hơn thế nữa trong các lĩnh vực thường thiếu minh bạch nói chung, chẳng hạn như các hoạt động chống khủng bố.20 Tòa án đã phát hiện ra rằng việc sử dụng các thuật toán đã dẫn đến vi phạm quyền không bị phân biệt đối xử21 và việc không công bố dữ liệu cơ bản đằng sau một thuật toán cấu thành hành vi vi phạm quyền tố tụng hợp pháp.22 Như Tổng thư ký nhấn mạnh, cần có thêm nhiều nỗ lực để tạo ra các công cụ và phương pháp cung cấp mức độ giải thích đầy đủ về cách đưa ra các quyết định, đặc biệt là khi AI đang xác định các vấn đề quan trọng trong các quy trình tư pháp.23
 
A.                                     AI trong quản lý tư pháp
7. Hệ thống AI ngày càng ảnh hưởng đến mọi khía cạnh của cuộc sống và việc quản lý tư pháp cũng không ngoại lệ. Các quốc gia ngày càng tích hợp hệ thống AI vào các hệ thống thực thi pháp luật, an ninh quốc gia, tư pháp hình sự và quản lý biên giới.24 Hệ thống AI thường được sử dụng như các công cụ dự báo, phân tích
8. lượng lớn dữ liệu, bao gồm dữ liệu lịch sử, để đánh giá rủi ro và dự đoán xu hướng trong tương lai. 25 Các công cụ cảnh sát dự đoán, có thể được hỗ trợ bởi AI, đưa ra đánh giá về những ai có thể phạm tội trong tương lai, những ai có thể là nạn nhân của những tội ác đó và những tội ác đó có thể xảy ra ở đâu. Việc sử dụng các công cụ như vậy có thể kích hoạt các biện pháp can thiệp của chính quyền Nhà nước, chẳng hạn như khám xét, thẩm vấn, bắt giữ và truy tố. 26 Tương tự như vậy, các Nhà nước sử dụng các công nghệ giám sát, cũng có thể được hỗ trợ bởi AI, chẳng hạn như camera truyền hình mạch kín, camera đeo người và công nghệ nhận dạng khuôn mặt, trong các cuộc tụ tập công cộng, thường không đảm bảo đáp ứng các yêu cầu về tính tương xứng, tính minh bạch và trách nhiệm giải trình.27
 
1.                      Sử dụng hệ thống AI của thẩm phán và luật sư
9. Theo Ủy ban về Phân biệt chủng tộc, đánh giá rủi ro theo thuật toán đôi khi được sử dụng để đánh giá mức độ rủi ro mà một người gây ra ở các giai đoạn khác nhau trong quá trình tố tụng hình sự, ví dụ, “[khi] áp dụng lệnh trừng phạt hoặc quyết định xem ai đó có nên bị đưa vào tù, được tại ngoại hay phải chịu hình phạt khác hay không”.28 Ngoài ra còn có báo cáo về các thẩm phán sử dụng phương pháp tạo ra
AI để có được sự hiểu biết toàn diện hơn về luật bảo lãnh áp dụng trong các trường hợp tấn công,29 để kiểm tra tiềm năng của AI tạo ra cho việc ra quyết định của tòa án trong các trường hợp liên quan đến tội phạm tình dục30 và hỗ trợ tuyên án.31 Tại một quốc gia thành viên, các công tố viên sử dụng AI để đặt câu hỏi pháp lý.32 Tại một quốc gia khác, "tòa án thông minh" đã được thành lập, được cho là đang thử nghiệm thí điểm các chương trình "thẩm phán AI" hỗ trợ trực tiếp trong việc đưa ra quyết định của tòa án, dưới sự giám sát chặt chẽ của con người và không có ý định thay thế các thẩm phán con người.33 Chương trình thí điểm đó đã làm nổi bật sự không đáng tin cậy của một số hệ thống AI, bao gồm công nghệ nhận dạng khuôn mặt và cảm xúc để xác thực xem lời khai có đáng tin cậy hay không.34
10. Một số luật sư cũng đang sử dụng AI để đẩy nhanh việc soạn thảo các văn bản pháp lý và các văn bản trình lên tòa án. Với những hạn chế về mặt thống kê hiện tại, các mô hình AI có thể “ảo giác” hoặc chế tạo ra các đầu ra sai, 35 vì chúng hoạt động bằng cách dự đoán các từ có thể xảy ra mà không dựa trên thực tế hoặc sự kiện có thể xác minh được. 36 Trong các ảo giác như vậy, thông tin sai lệch, gây hiểu lầm hoặc phi logic được tạo ra và trình bày dưới dạng sự thật, có thể liên quan đến việc chế tạo ra luật lệ không tồn tại. Một số tòa án quốc gia đang bắt đầu yêu cầu luật sư và người kiện tụng chứng nhận xem họ có sử dụng AI trong việc soạn thảo hồ sơ tòa án hay không. 37 Luật sư cũng có thể vô tình chia sẻ thông tin bí mật của khách hàng với các mô hình AI. 38
 
2.                            Tác động của AI đến quyền con người
11. Hệ thống AI có tiềm năng cải thiện khả năng tiếp cận công lý theo nhiều cách, bao gồm thông qua hệ thống quản lý vụ án kỹ thuật số, dễ dàng tiếp cận thông tin pháp lý hơn bằng cách sử dụng chatbot39 và các ứng dụng hỗ trợ điều tra tội phạm như lạm dụng và bóc lột tình dục trẻ em.40 Như Cơ quan tư vấn cấp cao về trí tuệ nhân tạo đã nêu bật, hệ thống AI cũng có thể gây ra rủi ro cho nhiều quyền khác nhau do cách phát triển hoặc vận hành các hệ thống như vậy, như đã thảo luận dưới đây.41
 
Không phân biệt đối xử
12. Theo các cơ chế nhân quyền của Liên hợp quốc, các công cụ cảnh sát dự đoán được sử dụng để xác định các tội phạm tiềm ẩn trong tương lai có thể dễ dàng tạo ra sự phân biệt đối xử kết quả; gây ra nguy cơ định hướng các dự đoán trong tương lai theo cùng một hướng thiên vị, dẫn đến việc cảnh sát kiểm soát quá mức cùng một khu phố, điều này có thể dẫn đến nhiều vụ bắt giữ hơn ở khu phố đó, tạo ra một vòng phản hồi nguy hiểm; 42 và có thể tái tạo sự phân biệt chủng tộc và định kiến giới. 43 Theo quan điểm của Ủy ban về xóa bỏ phân biệt chủng tộc, việc sử dụng ngày càng nhiều các công cụ công nghệ mới, bao gồm cả AI, trong các lĩnh vực như an ninh, kiểm soát biên giới và tiếp cận các dịch vụ xã hội, có khả năng làm sâu sắc thêm sự phân biệt đối xử và loại trừ về chủng tộc, giới tính và các loại hình phân biệt đối xử và loại trừ khác nhau và giao thoa, bao gồm cả đối với người khuyết tật. 44 Các cơ chế nhân quyền của Liên hợp quốc cũng bày tỏ quan ngại về việc các cơ quan thực thi pháp luật sử dụng công nghệ nhận dạng khuôn mặt và các công nghệ giám sát hàng loạt khác tại các cuộc tụ họp ôn hòa, bao gồm cả liên quan đến tác động không cân xứng của việc sử dụng các công nghệ như vậy đối với một số nhóm dân tộc và chủng tộc. 45
4. Các cơ chế nhân quyền của Liên hợp quốc cũng đã nêu lên mối quan ngại về việc bắt buộc thu thập dữ liệu sinh trắc học mở rộng, bao gồm cả mẫu DNA, của cơ quan thực thi pháp luật.46 Trong một số trường hợp, hồ sơ DNA đã được các cơ quan thực thi pháp luật sử dụng để đưa ra tuyên bố sai sự thật rằng một số nhóm dân tộc thiểu số dễ bị bạo lực hơn, điều này dẫn đến việc những nhóm này phải chịu các hành vi phân biệt đối xử của cảnh sát.47
5. Theo Ủy ban xóa bỏ phân biệt chủng tộc, sự thiên vị và phân biệt đối xử có thể được nhúng vào các hệ thống lập hồ sơ thuật toán khi dữ liệu được sử dụng bao gồm: thông tin liên quan đến các đặc điểm được bảo vệ theo Công ước xóa bỏ mọi hình thức phân biệt chủng tộc; thông tin liên quan đến các yếu tố kinh tế xã hội có thể đóng vai trò là đại diện cho sự phân biệt đối xử, chẳng hạn như mã bưu chính, trình độ học vấn và sức khỏe tâm thần; dữ liệu có sự thiên vị chống lại một nhóm;48 và dữ liệu có chất lượng kém vì chúng được lựa chọn kém hoặc không đầy đủ, không chính xác, lỗi thời hoặc không thể phân tách cho các nhóm dân số dễ bị tổn thương, ví dụ, theo giới tính và giới tính.
 
Tự do và an ninh
6. Theo Tổ chức Giáo dục, Khoa học và Văn hóa Liên hợp quốc (UNESCO), trong những tình huống mà quyền tự do về thể chất hoặc sự an toàn cá nhân của một cá nhân bị đe dọa, chẳng hạn như với cảnh sát dự đoán, đánh giá rủi ro tái phạm và tuyên án, việc sử dụng AI có thể xâm phạm quyền tự do, an ninh và xét xử công bằng của người đó. Bản chất "hộp đen" của các hệ thống AI khiến các chuyên gia pháp lý, chẳng hạn như thẩm phán, luật sư và công tố viên, khó hiểu được lý lẽ đằng sau các kết quả đầu ra của hệ thống, điều này có thể làm phức tạp thêm việc biện minh và kháng cáo quyết định. Sự thiếu minh bạch của các hệ thống AI có thể ảnh hưởng xấu đến quyền tự do và an ninh nếu các cá nhân bị buộc tội không thể phản đối các quyết định ảnh hưởng đến họ. Có một số trường hợp được ghi nhận trong đó việc sử dụng các thuật toán AI
trong hoạt động cảnh sát dự đoán, đánh giá rủi ro và tuyên án đã dẫn đến kết quả không tối ưu trong hệ thống tư pháp hình sự.49
7. Theo Ủy ban Nhân quyền, lệnh cấm giam giữ tùy tiện có nghĩa là quyết định giam giữ hoặc tiếp tục giam giữ một người nào đó phải dựa trên lý do cụ thể đối với cá nhân đó. Việc giam giữ chờ xét xử phải dựa trên "quyết định của cá nhân rằng quyết định đó là hợp lý và cần thiết khi xem xét tất cả các tình huống nhằm mục đích ngăn chặn việc bỏ trốn, can thiệp vào bằng chứng hoặc tái diễn tội phạm".50 Bản chất của việc ra quyết định hoàn toàn theo thuật toán, trong đó không có sự giám sát của con người, loại trừ khả năng đưa ra quyết định theo cá nhân, vì phân tích cuối cùng dựa trên hành vi của nhóm, suy luận thống kê tổng quát và tương quan hơn là nguyên nhân. Nếu tòa án sử dụng việc ra quyết định theo thuật toán để tạo điều kiện cho các quyết định liên quan đến việc giam giữ, họ phải có khả năng thu thập thông tin tiết lộ có ý nghĩa về và phát triển sự hiểu biết về các công nghệ thuật toán, chức năng của chúng, mã nguồn, đào tạo và dữ liệu đầu vào.51
 
Bình đẳng trước tòa án và xét xử công bằng
8. UNESCO cho rằng khi các hệ thống AI thiên vị và không minh bạch, chúng sẽ gây ra những lo ngại liên quan đến các tiêu chuẩn xét xử công bằng, chẳng hạn như nguyên tắc vô tội, quyền được thông báo kịp thời về nguồn gốc và bản chất của lời buộc tội, quyền được xét xử công bằng và khả năng tự bào chữa.52 Theo luật nhân quyền quốc tế, một phiên tòa công bằng bao hàm quyền bình đẳng trước tòa án. 53 Trong tố tụng dân sự, mỗi bên phải được trao cơ hội phản biện các lập luận và bằng chứng do bên kia đưa ra.54 Trong các phiên tòa hình sự, bị cáo có quyền được bào chữa 55 và phải có đủ cơ sở để chuẩn bị cho việc bào chữa đó, 56 bao gồm quyền tiếp cận các tài liệu và bằng chứng khác và phải bao gồm tất cả các tài liệu mà bên công tố dự định đưa ra tại tòa chống lại bị cáo hoặc có tính chất giải tội.57 Những quyền này có thể bị xâm phạm trong các tình huống mà bị cáo không biết rằng hệ thống AI đã được sử dụng để đưa ra quyết định ảnh hưởng đến họ, khi bị cáo không thể hiểu được cách hệ thống AI đưa ra quyết định đã được đưa ra hoặc khi bị cáo không thể phản đối hoặc kháng cáo quá trình ra quyết định hoặc bản thân quyết định.58 Việc không được tiếp cận thông tin có thể làm tổn hại đến quyền được khắc phục hiệu quả của bị cáo, cả trong và sau khi hoàn tất tố tụng hình sự chống lại họ.59
9. Có báo cáo rằng bằng chứng kỹ thuật số được thu thập, đôi khi là bất hợp pháp, thông qua các công nghệ giám sát, chẳng hạn như công nghệ nhận dạng khuôn mặt, đã được sử dụng trong các thủ tục tố tụng hình sự để bắt giữ, buộc tội, truy tố và kết án những cá nhân tham gia biểu tình, cũng như trong các thủ tục tại ngoại của họ. 60 Bằng chứng kỹ thuật số như vậy có thể
tác động đến quyền được bảo vệ, vì nó thường được thu thập mà không minh bạch, khiến bên bảo vệ khó có thể thách thức tính chính xác, độ tin cậy và tính hợp pháp của nó. Công nghệ AI cũng mở ra nhiều khả năng hơn trong việc làm giả bằng chứng để buộc tội cá nhân, đe dọa không chỉ quyền riêng tư mà còn cả quyền xét xử công bằng và quyền được coi là vô tội.61
 
Sự độc lập của ngành tư pháp
10. Báo cáo viên đặc biệt về tính độc lập của thẩm phán và luật sư đã bày tỏ mối quan ngại về những thách thức đối với tính độc lập của tư pháp liên quan đến công nghệ số và trí tuệ nhân tạo. 62 Theo luật nhân quyền quốc tế, các tòa án phải có năng lực, độc lập và vô tư, và các phiên điều trần phải được công khai. 63 Các tòa án phải độc lập với các nhánh hành pháp và lập pháp của Chính phủ, và các thẩm phán phải được hưởng sự độc lập của tư pháp trong việc quyết định các vấn đề pháp lý. Một tình huống mà hành pháp có thể kiểm soát hoặc chỉ đạo ngành tư pháp là không tương thích với khái niệm về một tòa án độc lập. 64 Ảnh hưởng do hành pháp hoặc lập pháp thực hiện đối với, trong số những thứ khác, việc lựa chọn dữ liệu đào tạo được sử dụng để dạy hệ thống AI cách trả lời các câu hỏi hoặc thiết kế thuật toán được sử dụng trong phòng xử án có thể đặt ra câu hỏi về tính độc lập của tòa án, 65 đặc biệt là trong những trường hợp thiết kế và triển khai hệ thống được thuê ngoài cho các công ty tư nhân, đặc biệt là vì quyền kiểm soát AI hiện có xu hướng tập trung trong tay một số ít công ty. 66
11. Theo UNESCO, một trong những mối đe dọa lớn nhất phát sinh từ việc sử dụng các hệ thống AI trong việc quản lý tư pháp là cái gọi là thiên kiến tự động hóa, tức là xu hướng của con người coi giải pháp do trí tuệ nhân tạo đưa ra là đúng mà không có sự phê phán, do đó tự động xác nhận giải pháp đó. Đây là một rủi ro đặc biệt bất thường trong việc quản lý tư pháp 67 và có thể khiến đầu vào của con người trong hệ thống (“con người trong vòng lặp”) trở nên không hiệu quả. 68 Do đó, quyết định của thẩm phán đi chệch khỏi bất kỳ quyết định nào được hỗ trợ hoặc tự động hóa không nên phải chịu bất kỳ hình thức trả đũa, trừng phạt, thanh tra hoặc chế độ kỷ luật nào.
12. Các hệ thống AI hoặc “thẩm phán AI” không có khả năng áp dụng các nguyên tắc công bằng, thay vào đó là giảm các vấn đề phức tạp thành các vấn đề chỉ mang tính hình thức hợp pháp. 69 Theo Chương trình Phát triển Liên hợp quốc (UNDP), các hệ thống AI cũng thiếu sự đồng cảm và thận trọng. 70 Những người ra quyết định có thể sử dụng sự thận trọng của mình để thừa nhận những bất lợi mang tính hệ thống và tăng cường các cơ hội phục hồi. Các hệ thống không để lại chỗ cho sự thận trọng có thể dẫn đến những kết quả cứng nhắc và khắc nghiệt 71 và thiếu sự đổi mới để tạo ra hoặc khác biệt so với các tiền lệ. Là một thành viên của
ngành tư pháp cho biết, “quyền quyết định của tư pháp không chỉ được hình thành bởi đào tạo và kinh nghiệm pháp lý của chúng ta, mà còn bởi kinh nghiệm của chúng ta với tư cách là con người”.72
13. Một học giả pháp lý cho rằng cá nhân nên có quyền thách thức các quyết định được đưa ra bởi hoặc với sự trợ giúp của các hệ thống AI và ủng hộ quyền được con người xem xét lại các quyết định đó hoặc quyền để con người quyết định ngay từ đầu. Ông lưu ý đến tác động phi nhân tính của việc đối xử với cá nhân chỉ như thành viên của một nhóm cá nhân được phân loại tương tự chứ không phải là những cá nhân hoàn chỉnh được ban cho phẩm giá con người. 73 Hai học giả khác phản đối việc sử dụng các công cụ ra quyết định hoàn toàn tự động trong việc xét xử nhân quyền quốc tế nhưng ủng hộ việc sử dụng ra quyết định tự động được tạo điều kiện thuận lợi cho mục đích xây dựng các khuyến nghị trực tiếp liên quan đến việc đăng ký và khả năng chấp nhận khiếu nại, tùy thuộc vào khuôn khổ trách nhiệm giải trình. 74
 
1.                                     Khung quản trị AI mới nổi
14. Một số quốc gia thành viên đang thiết lập khuôn khổ trong nước để các tác nhân công và tư sử dụng AI. Hầu hết các quốc gia thành viên đều thiếu khuôn khổ pháp lý và quy định bao quát, cụ thể là giải quyết việc sử dụng AI trong hệ thống tư pháp. Các khuôn khổ như vậy thường được nêu dưới dạng chính sách, thay vì luật, và do đó không tạo ra bất kỳ nghĩa vụ pháp lý nào hoặc đưa ra biện pháp khắc phục pháp lý. 75 Tòa án Liên bang Canada đã thừa nhận những rủi ro vốn có của AI và đã xây dựng các nguyên tắc và hướng dẫn tạm thời cho việc tòa án sử dụng trí tuệ nhân tạo. Ủy ban Châu Âu về Hiệu quả Công lý cũng đã cung cấp hướng dẫn cho các chuyên gia tư pháp về việc sử dụng các công cụ AI tạo ra trong các bối cảnh liên quan đến công việc.
15. Liên minh Châu Âu, thông qua Đạo luật AI của mình, đã áp dụng cách tiếp cận dựa trên rủi ro để điều chỉnh các hệ thống AI. Đạo luật này phân loại các hệ thống AI dành cho cơ quan tư pháp hoặc thay mặt cơ quan này sử dụng để hỗ trợ nghiên cứu hoặc diễn giải các sự kiện và luật pháp hoặc áp dụng luật pháp cho một tập hợp sự kiện cụ thể là "rủi ro cao". Theo Đạo luật, các công cụ AI có thể được sử dụng để hỗ trợ quyền ra quyết định của thẩm phán nhưng không được thay thế quyền này: việc ra quyết định cuối cùng phải vẫn là hoạt động do con người điều khiển. Đạo luật cấm sử dụng đánh giá rủi ro để đánh giá hoặc dự đoán rủi ro phạm tội, chỉ dựa trên việc lập hồ sơ về một người hoặc đánh giá các đặc điểm và đặc điểm tính cách của họ, và cấm sử dụng công nghệ nhận dạng khuôn mặt thời gian thực tại các không gian công cộng cho mục đích thực thi pháp luật, với một số ngoại lệ hạn chế. 76 Công ước khung về Trí tuệ nhân tạo, Nhân quyền, Dân chủ và Pháp quyền, được Hội đồng Châu Âu thông qua vào ngày 17 tháng 5 năm 2024, nhằm mục đích đảm bảo rằng các hoạt động trong vòng đời của các hệ thống AI hoàn toàn phù hợp với nhân quyền, dân chủ và pháp quyền. UNESCO, trong Khuyến nghị về Đạo đức của AI, nhấn mạnh rằng các quốc gia nên tăng cường năng lực của ngành tư pháp để đưa ra quyết định liên quan đến các hệ thống AI, phù hợp với luật pháp và tiêu chuẩn quốc tế. UNESCO nhấn mạnh rằng cần có đủ các biện pháp bảo vệ để đảm bảo bảo vệ quyền con người, pháp quyền, độc lập tư pháp và nguyên tắc giám sát của con người, cũng như đảm bảo sự đáng tin cậy, hướng đến lợi ích công cộng và lấy con người làm trung tâm
phát triển và sử dụng hệ thống AI trong ngành tư pháp. Nó cũng làm rõ rằng các quyết định sống còn không nên được giao cho hệ thống AI. 77
16. Cao ủy Nhân quyền khuyến nghị rằng các quốc gia cấm các ứng dụng AI không thể vận hành theo đúng luật nhân quyền và áp dụng lệnh tạm dừng bán và sử dụng AI có nguy cơ cao đối với việc hưởng thụ nhân quyền, trừ khi và cho đến khi có các biện pháp bảo vệ đầy đủ để bảo vệ nhân quyền.78 Văn phòng Liên hợp quốc về Ma túy và Tội phạm (UNODC) đã cảnh báo về việc áp dụng rộng rãi hơn các hệ thống AI trong hệ thống tư pháp hình sự, bao gồm cả các mô hình dự đoán và quyết định hoặc đánh giá rủi ro. 79 Hợp tác với Tổ chức Cảnh sát Hình sự Quốc tế, Viện Nghiên cứu Tội phạm và Tư pháp Liên khu vực của Liên hợp quốc đã phát triển một "bộ công cụ đổi mới AI có trách nhiệm trong thực thi pháp luật"80 cũng như hướng dẫn chính sách về việc đặt ra các giới hạn có trách nhiệm đối với công nghệ nhận dạng khuôn mặt.81
17. Cao ủy đã ủng hộ việc thúc đẩy AI dựa trên quyền con người trong khu vực tư nhân thông qua việc áp dụng các Nguyên tắc chỉ đạo về Kinh doanh và Quyền con người và thông qua dự án B-Tech.82 Cơ quan tư vấn cấp cao về Trí tuệ nhân tạo đã xây dựng các khuyến nghị sơ bộ về quản trị AI quốc tế và đề xuất một khuôn khổ quản trị AI toàn cầu, trong đó bao gồm các đánh giá tác động về quyền con người của các nhà phát triển hệ thống AI trong khu vực tư nhân và công cộng.83
 
B.                                    Công nghệ số trong nhà tù
18. Ngày càng có nhiều dịch vụ nhà tù đang phát triển các chương trình phục hồi chức năng kỹ thuật số và các giải pháp an ninh, thường có sự hỗ trợ của các chính sách và luật pháp khu vực và quốc gia. 84 Thực tế ảo đang được các nhà tâm lý học nhà tù sử dụng để phục hồi một loạt các hành vi phạm tội, với mục đích cải thiện tư duy và các kỹ năng xã hội tích cực cũng như khả năng đồng cảm, tăng động lực tham gia phục hồi chức năng và thúc đẩy hạnh phúc và thư giãn.85
19. Các công nghệ duy trì an ninh trong nhà tù cũng đang được phát triển, từ việc sử dụng AI và công nghệ nhận dạng khuôn mặt để ứng phó với bạo lực cho đến việc sử dụng các thiết bị chặn điện thoại di động, thiết bị quét cơ thể và sinh trắc học. 86 Đã có báo cáo về các tù nhân bị giam giữ biệt lập trên dãy tử tù
chịu sự giám sát 24 giờ, không có biện pháp nào đảm bảo quyền riêng tư của họ khi sử dụng nhà vệ sinh hoặc thay quần áo. 87 Ủy ban chống Tra tấn khuyến nghị lắp đặt hệ thống giám sát truyền hình mạch kín và camera đeo người ở những nơi tước đoạt quyền tự do, trừ khi việc làm như vậy sẽ dẫn đến vi phạm quyền riêng tư của người bị giam giữ hoặc tính bảo mật của các cuộc trò chuyện của họ với luật sư hoặc bác sĩ. Ủy ban đã nêu lên mối quan ngại về việc đặt tù nhân dưới sự giám sát liên tục bằng video trong phòng giam của họ. 88 UNODC đang số hóa các công cụ đánh giá rủi ro và nhu cầu cho các nhà tù kết hợp các cân nhắc về quyền con người và các bộ công cụ kiểm toán dựa trên Quy tắc tối thiểu tiêu chuẩn của Liên hợp quốc về đối xử với tù nhân (Quy tắc Nelson Mandela) để sử dụng ở Kazakhstan, Kyrgyzstan và Tajikistan.89
 
C.                                            Giám sát điện tử
20. Giám sát điện tử là thuật ngữ chung dùng để chỉ các hình thức giám sát được sử dụng để theo dõi vị trí, chuyển động và hành vi cụ thể của cá nhân và việc thu thập và phân tích một số dữ liệu nhất định. Các phương pháp giám sát điện tử hiện đang được sử dụng dựa trên công nghệ theo dõi sóng vô tuyến, sinh trắc học hoặc vệ tinh. Giám sát điện tử thường bao gồm một thiết bị, chẳng hạn như máy theo dõi mắt cá chân hoặc điện thoại thông minh, được gắn vào một người và được theo dõi từ xa. 90 Trong quá trình tư pháp hình sự, việc giám sát như vậy thường được sử dụng để ngăn chặn việc bỏ trốn, như một giải pháp thay thế cho việc tạm giam hoặc bỏ tù trước khi xét xử, như một phần của thời gian thử thách và như một phương tiện để theo dõi và giám sát mọi người trong bối cảnh giam giữ và trong bối cảnh di cư. 91 Bằng chứng cho thấy việc sử dụng giám sát điện tử đang gia tăng. 92 Các doanh nghiệp kinh doanh có thể thúc đẩy việc áp dụng giám sát điện tử, bao gồm việc áp dụng các mô hình cụ thể cho mục đích đó và có thể đóng vai trò trung tâm trong việc cung cấp các mô hình đó, bao gồm thông qua quan hệ đối tác công tư. 93
 
Tác động của giám sát điện tử đối với quyền con người
21. Ủy ban Nhân quyền và Ủy ban Chống Tra tấn ủng hộ việc sử dụng giám sát điện tử như một giải pháp thay thế cho việc giam giữ, cùng với việc ân xá, phục vụ cộng đồng và trả tự do. 94 Tuy nhiên, việc giam giữ chờ xét xử phải là một ngoại lệ, không phải là một quy tắc, để bảo vệ giả định vô tội. Do đó, giám sát điện tử chỉ nên được sử dụng như một giải pháp thay thế cho việc giam giữ chờ xét xử khi có căn cứ cho việc giam giữ như vậy. Việc giam giữ chờ xét xử phải dựa trên quyết định cá nhân rằng, khi xem xét tất cả các tình huống, việc giam giữ là hợp lý và cần thiết cho các mục đích như ngăn chặn bỏ trốn, can thiệp vào bằng chứng hoặc tái phạm tội. 95 Khi giám sát điện tử được sử dụng mà không có căn cứ cho việc giam giữ, phạm vi giám sát được mở rộng để bao gồm cả những người có mức độ - gây nguy hiểm cho mọi người, gây bất lợi cho các phương pháp tiếp cận khác, chẳng hạn như phục hồi chức năng dựa vào cộng đồng.96
4. Ủy ban chống tra tấn đã bày tỏ sự hối tiếc về yêu cầu những người bị giám sát phải trả tiền cho các thiết bị giám sát điện tử, lưu ý rằng điều này có thể có tác động phân biệt đối xử đối với những người nghèo. 97 Nghiên cứu cho thấy rằng, ở một số quốc gia, một số nhóm nhất định có thể phải chịu sự giám sát điện tử một cách không cân xứng; rằng một số hình thức giám sát điện tử có thể cản trở việc tiếp cận giáo dục, công việc và việc thực hiện trách nhiệm chăm sóc; và rằng việc giám sát như vậy có thể dẫn đến việc tước đoạt quyền tự do khi thiết bị bị hỏng, bị lỗi hoặc không thể sạc được do tình trạng vô gia cư. 98 Khi được sử dụng trong những tình huống không có căn cứ để giam giữ, có nguy cơ rằng việc giám sát điện tử có thể cấu thành sự can thiệp bất hợp pháp và tùy tiện vào quyền riêng tư của cả người đeo và những người mà họ sống và tương tác. Việc thiết kế và triển khai các thiết bị giám sát điện tử cũng có thể không tính đến nhu cầu của phụ nữ và người khuyết tật. 99
5. Mặc dù Quy tắc tối thiểu chuẩn của Liên hợp quốc về các biện pháp không giam giữ (Quy tắc Tokyo) không liên quan rõ ràng đến việc giám sát điện tử, nhưng chúng cung cấp hướng dẫn về việc sử dụng các biện pháp không giam giữ, bao gồm cả liên quan đến việc đánh giá và tuân thủ có hệ thống các quyền con người, chẳng hạn như quyền riêng tư của người bị giám sát và gia đình của họ. Ngoài ra, theo Quy tắc Tokyo, các biện pháp không giam giữ phải được quy định theo luật, phải có sự đồng ý của người bị giám sát và phải có khả năng xem xét lại của tòa án. Quan điểm chung của hệ thống Liên hợp quốc về việc giam giữ ủng hộ việc thực hiện các biện pháp không giam giữ. UNODC đã phát triển một nghiên cứu khả thi về việc sử dụng vòng đeo tay giám sát điện tử ở Kyrgyzstan, nghiên cứu này đã ảnh hưởng đến những thay đổi về mặt lập pháp để áp dụng giám sát điện tử như một giải pháp thay thế cho việc giam giữ trước khi xét xử, 100 và Văn phòng Cao ủy Liên hợp quốc về Nhân quyền (OHCHR) đã tư vấn về các biện pháp bảo vệ nhân quyền cần thiết. Hội đồng Châu Âu đã thông qua các khuyến nghị cho phép các cơ quan quốc gia sử dụng công bằng, cân xứng và hiệu quả các hình thức giám sát điện tử khác nhau, tôn trọng đầy đủ các quyền của những người có liên quan.101 Maroc đã thông qua luật điều chỉnh việc sử dụng các thiết bị giám sát điện tử.102 Một số bên liên quan cho rằng có một khoảng cách bảo vệ quốc tế, làm nổi bật nhu cầu các cơ quan nhân quyền quốc tế cần có hướng dẫn chặt chẽ hơn về khả năng tương thích với nhân quyền của các mô hình giám sát điện tử.103
 
A.                              Công nghệ số trong quản lý tòa án
6. Các quốc gia ngày càng sử dụng nhiều hệ thống quản lý vụ án để hợp lý hóa các quy trình hành chính trong hệ thống tư pháp, bao gồm các hệ thống nộp hồ sơ điện tử, lưu giữ hồ sơ, giám sát quá trình tố tụng, xác định các bên, thanh toán phí, chuyển giao tài liệu, liên lạc với các bên trong quá trình tố tụng, lưu trữ bản ghi âm thanh hoặc hình ảnh và khả năng tiếp cận tốt hơn đối với
người khuyết tật. 104 Các công cụ tìm kiếm cho luật học quốc gia và quốc tế cũng đang được sử dụng. Khi các hình thức tố tụng tự động được sử dụng, chúng được sử dụng trong các tố tụng dân sự giá trị thấp (các vụ kiện tụng nhỏ) và để tạo điều kiện cho các phán quyết và các quyết định khác của tòa án trong các vấn đề thủ tục đơn giản. 105 Việc sử dụng AI trong quản lý tòa án vẫn đang ở giai đoạn đầu phát triển, 106 và các ứng dụng có xu hướng tập trung vào các nhiệm vụ hành chính, chẳng hạn như đọc chính tả, dịch thuật và tự động ẩn danh các phán quyết và lệnh.107
7. UNDP, trong Kế hoạch Chiến lược 2022–2025 và Chiến lược Số 2022–2025, đưa ra một bộ nguyên tắc chỉ đạo cho quá trình chuyển đổi số, bao gồm cách tiếp cận dựa trên nhân quyền. 108 Theo kế hoạch đó, lĩnh vực hỗ trợ lớn nhất của UNDP cho tư pháp điện tử liên quan đến các hệ thống và công cụ quản lý vụ án số cho sổ đăng ký tòa án, quyền truy cập tại tòa vào hồ sơ vụ án và bằng chứng, hệ thống nộp hồ sơ tại tòa án và các dịch vụ trợ giúp pháp lý, bao gồm ở Albania, Bangladesh, Brazil, Chad, Côte d'Ivoire, Cộng hòa Dân chủ Congo, Djibouti, El Salvador, Fiji, Kenya, Malawi, Maldives, Morocco, Senegal, Sierra Leone, Ukraine và Nhà nước Palestine.109
8. Tại Pakistan, UNDP và OHCHR đã cung cấp hỗ trợ kỹ thuật để tăng cường sự hài hòa trong việc thu thập dữ liệu và báo cáo về nhân quyền và Mục tiêu phát triển bền vững thông qua một nền tảng kỹ thuật số. 110 Tại Libya, OHCHR đã hỗ trợ cải cách hệ thống tư pháp hình sự và các dịch vụ truy tố bằng cách tăng cường số hóa. 111 Tại Campuchia, OHCHR đã hỗ trợ phát triển cơ sở dữ liệu vụ án hình sự để lưu trữ và theo dõi dữ liệu và đào tạo cho nhân viên về cách sử dụng cơ sở dữ liệu này. Tại Bolivia, hệ thống quản lý thông tin do Quỹ Nhi đồng Liên hợp quốc (UNICEF) hỗ trợ phục vụ tất cả các bên tham gia tố tụng hình sự; hệ thống này là mô hình cho khu vực và đã nhận được giải thưởng về đổi mới kỹ thuật. 112 UNODC đã hỗ trợ cải cách công nghệ thông tin và truyền thông trong lĩnh vực tư pháp tại Kenya, bao gồm các cải cách tập trung vào việc tích hợp hệ thống lưu trữ điện tử giữa các cơ quan khác nhau. 113 Tại Kyrgyzstan, UNODC đã tăng cường quản lý thông tin tư pháp hình sự thông qua sổ đăng ký tội phạm thống nhất và triển khai các hệ thống thông tin tự động như một phần của chương trình "Công lý cho tất cả".
9. Các quốc gia và các thực thể của Liên hợp quốc đã chứng thực tiềm năng của công nghệ số đối với việc quản lý tòa án về mặt tiếp cận công lý, minh bạch, khả năng tiếp cận, khả năng kiểm toán, tính nhanh chóng và hiệu quả hơn cho tất cả các bên. Tuy nhiên, hiệu quả không nên bị nhầm lẫn với kết quả chất lượng cao. Một hệ thống hiệu quả giúp giảm chi phí cho người dùng nhưng lại dẫn đến các quyết định không thể thực thi, làm trầm trọng thêm sự phân chia kỹ thuật số về giới 114 hoặc không bảo vệ được quyền thì không phải là sự cải thiện.115
Tác động của việc sử dụng công nghệ số trong quản lý tòa án đối với quyền con người
10. Công nghệ số không được có tác động tiêu cực đến hoặc gây nguy hiểm cho tính độc lập của ngành tư pháp.116 Khi việc thực hiện cải cách công nghệ chỉ là trách nhiệm của cơ quan hành pháp, tính độc lập của ngành tư pháp có thể bị đe dọa (xem các đoạn 18–21 ở trên). Việc sử dụng các công cụ dữ liệu để phát triển các chỉ số hiệu suất cho việc quản lý vụ án tư pháp liên quan đến việc áp đặt các mục tiêu dựa trên hiệu quả có thể đi ngược lại tính tự chủ của việc ra quyết định của ngành tư pháp. Điều tương tự cũng đúng khi việc giám sát công nghệ mà ngành tư pháp sử dụng được thực hiện bởi nhánh hành pháp hoặc một cơ quan quản lý, thay vì bởi một cơ quan trong chính ngành tư pháp. Do đó, để đảm bảo tính độc lập của ngành tư pháp, ngành tư pháp phải có vai trò và trách nhiệm trong việc thực hiện cải cách số.117
11. Quyền bình đẳng về vũ khí (xem đoạn 17 ở trên) trong tố tụng hình sự cũng yêu cầu bên bào chữa được hưởng lợi từ quyền truy cập đầy đủ vào các hệ thống quản lý vụ án kỹ thuật số và hồ sơ vụ án được số hóa.118 Nếu điều kiện này được đáp ứng, những nỗ lực nhằm giảm sự phụ thuộc vào hồ sơ giấy, vốn yêu cầu phải truy cập vật lý, do đó hạn chế thời gian có thể để kiểm tra hồ sơ, có thể có tác động quan trọng đến công việc hàng ngày của luật sư bào chữa, có khả năng giảm sự chậm trễ và cải thiện chất lượng hỗ trợ pháp lý. 119 Quyền riêng tư có khả năng bị ảnh hưởng bởi các hệ thống quản lý vụ án kỹ thuật số, vì các hệ thống như vậy cấu thành kho lưu trữ thông tin cá nhân và thông tin nhạy cảm. Việc bảo vệ quyền riêng tư đòi hỏi phải có khuôn khổ pháp lý và quy định mạnh mẽ phù hợp với quyền riêng tư và các nguyên tắc bảo vệ dữ liệu. 120
12. Nhiều quốc gia có luật điều chỉnh một số lĩnh vực công nghệ số trong lĩnh vực an ninh mạng và xử lý, chuyển giao và bảo vệ dữ liệu, theo đó các hệ thống quản lý vụ án cũng được điều chỉnh. Các quốc gia trong Liên minh Châu Âu phải tuân thủ Quy định bảo vệ dữ liệu chung và một số quốc gia có luật bổ sung. Tại một số quốc gia, tòa án tối cao đã ban hành quyết định về việc sử dụng hệ thống quản lý tòa án số hóa và ban hành các thỏa thuận điều chỉnh việc quản lý tư pháp của hệ thống này. Với sự hỗ trợ của UNDP, các sửa đổi về luật đã hoặc đang được xây dựng như một phần của các dự án chuyển đổi số tại Antigua và Barbuda, Barbados, Belize, Brazil, Dominica, Guyana, Saint Lucia, Saint Kitts và Nevis, Trinidad và Tobago, Morocco và Nhà nước Palestine. Các sửa đổi đó tập trung vào việc truy cập, xử lý và lưu trữ dữ liệu điện tử, hạn chế truy cập, kiểm soát và sở hữu dữ liệu và quy trình liên quan đến tòa án.121
 
B.                                     Phiên điều trần trực tuyến
13. Kể từ khi đại dịch bệnh do vi-rút corona (COVID-19) bùng phát, đã có sự gia tăng trong việc sử dụng các phiên điều trần trực tuyến - các phiên điều trần tư pháp được tiến hành bằng hội nghị truyền hình hoặc định dạng kết hợp trong đó một số người tham dự tham dự trực tuyến. Các tiểu bang tự mình tận dụng
của công nghệ như vậy ở các giai đoạn khác nhau của quá trình tư pháp hình sự, từ điều tra đến kháng cáo và trong hợp tác xuyên biên giới. UNDP và UNODC đã hỗ trợ thành lập các tòa án ảo ở Kenya và Pakistan, và OHCHR đã tư vấn cho Kyrgyzstan về các biện pháp bảo vệ nhân quyền cho các phiên điều trần trực tuyến. 122
 
Tác động của phiên điều trần trực tuyến đến nhân quyền
14. Nhiều quốc gia thành viên và các thực thể của Liên hợp quốc chứng thực những lợi ích của phiên điều trần trực tuyến, có thể tạo điều kiện thuận lợi cho sự tham gia của một số hoặc tất cả các bên và do đó có tiềm năng tăng cường khả năng tiếp cận công lý; cải thiện hiệu quả; tạo ra khoản tiết kiệm chi phí; xóa bỏ các rào cản về mặt hậu cần trong việc tiếp cận các cơ sở của tòa án; 123 giảm nhu cầu về không gian vật lý;124 cung cấp sự linh hoạt hơn cho nghề luật; 125 giảm lượng khí thải carbon dioxide và đi lại;126 và tăng cường khả năng tiếp cận.127 Có bằng chứng cho thấy hội nghị truyền hình có lợi cho những người khiếu nại dễ bị tổn thương, chẳng hạn như những người bị ảnh hưởng bởi bạo lực trên cơ sở giới và các nhân chứng của bên công tố, và Ủy ban Nhân quyền đã khuyến nghị áp dụng hình thức này cho tất cả các trường hợp cần bảo vệ quyền của cả người bị buộc tội và nạn nhân hoặc người thân của nạn nhân, đặc biệt là trong những trường hợp mà sự hiện diện trực tiếp của bất kỳ bên nào có thể gây nguy hiểm đến tính mạng của họ.128
15. Mặc dù các phiên điều trần trực tuyến có thể nâng cao hiệu quả và hiệu quả về mặt chi phí, nhưng chúng chỉ nên được triển khai khi có các quy định nhằm đảm bảo bảo vệ quyền con người, đảm bảo xét xử công bằng và sự tồn tại của các biện pháp bảo vệ.129 Một thẩm phán tòa án tối cao đã kết luận rằng "công lý được thực thi tốt nhất khi trực tiếp", trong khi những người khác cho rằng các phiên điều trần trực tiếp nên là tiêu chuẩn và các thẩm phán nên quyết định xem có thể tổ chức phiên điều trần trực tuyến hay không.130 Tòa án Nhân quyền Châu Âu đã tuyên bố rằng: "phải đảm bảo rằng người nộp đơn có thể theo dõi các thủ tục tố tụng và được lắng nghe mà không gặp trở ngại về mặt kỹ thuật, và phải có sự giao tiếp hiệu quả và bảo mật với luật sư". 131
16. Không có tiêu chuẩn quốc tế cụ thể nào về phiên điều trần trực tuyến, vốn phải tuân theo các tiêu chuẩn chung áp dụng cho quy trình tố tụng hợp pháp và xét xử công bằng. 132 Các cơ quan điều ước nhân quyền đã bày tỏ quan điểm rằng các phiên điều trần về quyền giam giữ nên được tổ chức khi có sự hiện diện thực tế của người bị giam giữ để ngăn ngừa và đảm bảo trách nhiệm giải trình về việc tra tấn hoặc ngược đãi.133 Ủy ban Nhân quyền đã đề cập đến quyền được đưa đến để nhanh chóng xuất hiện "thực tế" trước thẩm phán sau khi một người đã bị bắt hoặc bị giam giữ, để đảm bảo sự kiểm soát của tư pháp đối với việc giam giữ, đây là quyền không có ngoại lệ. Nếu sau đó lệnh tiếp tục giam giữ được ban hành, người bị giam giữ có quyền đích thân ra hầu tòa để phản đối tính hợp pháp của việc giam giữ theo nguyên tắc habeas corpus.134 Với
liên quan đến cả sự kiểm soát tư pháp đối với việc giam giữ và các đơn xin lệnh habeas corpus, về nguyên tắc, sự hiện diện vật lý của người bị giam giữ là điều cần thiết, vì các dấu hiệu tra tấn hoặc ngược đãi không thể được quan sát đúng cách trên màn hình và khả năng khiếu nại về việc ngược đãi có thể bị hạn chế nếu một cá nhân được nghe trực tuyến từ nơi giam giữ.
17. Đối với các phiên tòa hình sự khác, bị cáo có quyền được xét xử khi có mặt họ, và các phiên tòa phải được tiến hành bằng lời nói và công khai. 135 Do đó, các phiên tòa xét xử các vụ án hình sự chỉ nên được tổ chức trực tuyến khi có sự đồng ý tự do và được thông báo rõ ràng của bị cáo, tuân theo các đảm bảo về quy trình tố tụng hợp pháp. 136 OHCHR đã xây dựng hướng dẫn cho các phiên tòa trực tuyến, cũng như Ủy ban châu Âu về hiệu quả công lý của Hội đồng châu Âu.137
18. Mặc dù có những lợi thế được công nhận của các phiên điều trần trực tuyến dành cho người khuyết tật, nhưng người khuyết tật phải được hưởng các điều chỉnh về thủ tục và quyền tiếp cận trong các phiên điều trần như vậy. Người khuyết tật phải đối mặt với các rào cản bổ sung, vì các ứng dụng kỹ thuật số thường không được thiết kế dành cho những người có nhiều loại khiếm khuyết khác nhau và thường được thiết kế mà không có sự tham gia của họ. Nếu công nghệ được sử dụng trong các thủ tục tố tụng hình sự, các biện pháp hỗ trợ ra quyết định phải được cung cấp cho những người khuyết tật cần các biện pháp như vậy, để họ có thể thực hiện năng lực pháp lý và tiếp cận công lý theo luật pháp quốc tế, bao gồm Công ước về Quyền của Người khuyết tật. 138 Khi các công nghệ kỹ thuật số được sử dụng cho các phiên điều trần liên quan đến bị cáo mắc chứng khuyết tật tâm lý xã hội hoặc suy giảm nhận thức, thì bị cáo phải được đảm bảo tiếp cận với các điều chỉnh về thủ tục và ra quyết định được hỗ trợ, để tránh bị loại trừ có hệ thống và để đảm bảo rằng họ có thể hiểu được vụ án và ngôn ngữ của tòa án cũng như giao tiếp hiệu quả và bảo mật với đại diện pháp lý của họ. 139
19. Nhiều người đồng ý rằng một số lợi ích của phiên điều trần trực tuyến đối với trẻ em có thể củng cố quyền của trẻ, chẳng hạn như cải thiện khả năng tiếp cận công lý và được thả khỏi trại giam sau những cáo buộc nhẹ, 140 bảo vệ trẻ khỏi bị tổn hại và tái phạm, tăng cường sự tham gia của các thành viên gia đình và nhân chứng, cho phép các tổ chức trợ giúp pháp lý tiếp cận các khu vực xa xôi và có khả năng giảm bớt lo lắng trực tuyến. 141 UNICEF đang hỗ trợ các quốc gia trong việc sử dụng công nghệ để tiếp nhận lời khai và bằng chứng từ trẻ em. 142 Tuy nhiên, phiên điều trần trực tuyến đặt ra những rủi ro đáng kể. Ngoài việc làm trầm trọng thêm bất bình đẳng và phân biệt đối xử do khoảng cách kỹ thuật số và các vấn đề về quyền riêng tư liên quan đến việc truy cập trái phép và lưu trữ thông tin cá nhân, quyền tham gia hiệu quả của trẻ em có thể bị ảnh hưởng do thiếu sự tiếp xúc của con người trong phiên điều trần trực tuyến. Các phiên điều trần như vậy cũng có thể làm suy yếu sự giao tiếp giữa luật sư và khách hàng, ảnh hưởng đến lòng tin và khả năng cung cấp hỗ trợ và trợ giúp đầy đủ. Những lo ngại khác bao gồm khó khăn đối với cơ quan tư pháp trong việc đánh giá đầy đủ ngoại hình và hành vi của trẻ em và xác nhận sự an toàn và bảo mật của bối cảnh mà trẻ em đang gọi đến. Vì những lý do này, một số tổ chức xã hội dân sự các tổ chức bày tỏ quan điểm rằng các phiên tòa trực tiếp nên là chuẩn mực cho các phiên tòa liên quan đến trẻ em, được hỗ trợ bởi các công nghệ từ xa. 143
4. Thiếu dữ liệu và nghiên cứu phân tích tác động của các phiên điều trần trực tuyến đối với quyền con người của trẻ em. Ủy ban về Quyền trẻ em khuyến nghị dữ liệu và nghiên cứu được cập nhật thường xuyên để hiểu được ý nghĩa và tác động của môi trường kỹ thuật số đối với trẻ em.144 Người ta cũng bày tỏ mối quan ngại về việc sử dụng các nền tảng tư nhân trong các bối cảnh chính phủ nhạy cảm, điều này đặt ra các câu hỏi nghiêm trọng về thu thập dữ liệu và quyền riêng tư.145
 
A.                                        Công nghệ thần kinh
5. Năm 2021, trong báo cáo có tựa đề “Chương trình nghị sự chung của chúng ta”, Tổng thư ký chỉ ra rằng cần cân nhắc việc cập nhật hoặc làm rõ việc áp dụng các khuôn khổ và tiêu chuẩn nhân quyền để giải quyết các vấn đề biên giới và ngăn ngừa tác hại trong không gian kỹ thuật số hoặc công nghệ, bao gồm cả liên quan đến công nghệ thần kinh.146 Các ứng dụng công nghệ thần kinh là “những thiết bị và quy trình được sử dụng để truy cập, giám sát, điều tra, đánh giá, thao tác và/hoặc mô phỏng cấu trúc và chức năng của hệ thống thần kinh của cá nhân”.147
6. Hầu hết các ứng dụng công nghệ thần kinh được đề xuất trong hệ thống tư pháp hình sự đều cực kỳ có vấn đề từ góc độ nhân quyền. Các ví dụ về các ứng dụng đang được nghiên cứu bao gồm phát hiện nói dối dựa trên não, thu thập lời khai của nhân chứng thông qua “phục hồi trí nhớ” và xác định nguy cơ tái phạm.148
7. Bên ngoài lĩnh vực y tế, việc sử dụng công nghệ thần kinh đang diễn ra bên ngoài một chế độ quản lý chung. Một số quốc gia thành viên đã ban hành luật hoặc tuyên bố tiên tiến để bảo vệ dữ liệu thần kinh và những người mà dữ liệu được thu thập, trong khi những quốc gia khác đang trong quá trình thực hiện. Tổ chức Hợp tác và Phát triển Kinh tế đã thông qua các khuyến nghị trong lĩnh vực này và UNESCO đã khởi động một quy trình thiết lập tiêu chuẩn, dự kiến sẽ hoàn thiện vào tháng 11 năm 2025. 149 Ủy ban Cố vấn của Hội đồng Nhân quyền sẽ trình bày một nghiên cứu về tác động của công nghệ thần kinh đối với quyền con người lên Hội đồng tại kỳ họp thứ năm mươi bảy. Tổng thư ký đã kêu gọi “các tiêu chuẩn mạnh mẽ về tính toàn vẹn về tinh thần, quyền riêng tư về tinh thần và quyền tự do về tinh thần” và “các hướng dẫn rõ ràng hơn về việc áp dụng công nghệ thần kinh”.150
 
I.                                          Kết luận và kiến nghị
8. Công nghệ số và hệ thống AI ngày càng được sử dụng nhiều hơn trong toàn bộ quá trình quản lý tư pháp, bao gồm cả thẩm phán và luật sư, trong thực thi pháp luật và điều tra, trong quản lý hồ sơ vụ án, để tiến hành các phiên điều trần trực tuyến, trong bối cảnh nhà tù và như một giải pháp thay thế cho việc giam giữ. Liên hợp quốc đang hợp tác với các quốc gia để tìm hiểu cách triển khai một số công nghệ này nhằm cải thiện việc quản lý và tiếp cận công lý. Tuy nhiên, việc áp dụng công nghệ số và hệ thống AI trong quá trình quản lý tư pháp cũng có khả năng tác động tiêu cực đến quyền con người, đặc biệt là trong tư pháp hình sự và những người trong tình huống dễ bị tổn thương có khả năng bị ảnh hưởng không cân xứng. Việc sử dụng không đúng cách, không phù hợp và không được kiểm soát các công nghệ như vậy có thể góp phần gây ra các hành vi vi phạm nghiêm trọng quyền con người, bao gồm quyền tự do và an ninh, quyền không bị tra tấn và ngược đãi, xét xử công bằng bởi một cơ quan tư pháp độc lập, quyền tiếp cận các biện pháp khắc phục pháp lý, không phân biệt đối xử và quyền riêng tư. Việc sử dụng công nghệ thần kinh tiềm ẩn trong quá trình quản lý tư pháp hình sự cũng gây ra những lo ngại.
9. Báo cáo hiện tại không phải là một đánh giá toàn diện về vấn đề phức tạp này nhưng sẽ phục vụ để làm nổi bật những phát triển, thách thức và thông lệ tốt mới nhất về quyền con người trong việc quản lý tư pháp. Bản chất của hệ thống mà các công nghệ kỹ thuật số và hệ thống AI được đưa vào, chính sách tư pháp hình sự và vai trò cũng như hiệu quả của các cơ quan giám sát và giám sát có thể ảnh hưởng thêm đến việc bảo vệ quyền con người. Do tốc độ phát triển của các công nghệ này, cần phải phân tích và đánh giá nghiêm túc về tác động có thể có của chúng đối với quyền con người và việc quản lý việc sử dụng chúng cũng phải theo kịp.
10. Báo cáo hiện tại đã nêu bật những lỗ hổng thực tế và tiềm ẩn trong việc bảo vệ quyền con người, bao gồm cả việc sử dụng AI của cơ quan thực thi pháp luật, tại tòa án và của ngành tư pháp và ngành luật, cũng như những lỗ hổng trong việc tiến hành các phiên điều trần trực tuyến, trong việc sử dụng giám sát điện tử và trong việc sử dụng công nghệ thần kinh.
11.                        Tôi khuyến nghị các quốc gia thành viên:
(a) Xem xét thực hiện các khuyến nghị do Cao ủy nêu ra trong báo cáo của bà về quyền riêng tư trong thời đại kỹ thuật số (A/HRC/48/31), bao gồm khuyến nghị đối với các quốc gia và doanh nghiệp kinh doanh tiến hành thẩm định về nhân quyền một cách có hệ thống trong suốt vòng đời của các hệ thống AI, đặc biệt là đánh giá tác động toàn diện về nhân quyền, như Đại hội đồng cũng đã khuyến nghị trong nghị quyết 78/213;
(b) Quy định, trên cơ sở khuôn khổ nhân quyền, việc phát triển, triển khai và sử dụng công nghệ số và AI trong việc thực thi công lý của cơ quan thực thi pháp luật, tòa án và các thành viên của ngành luật cũng như việc phát triển các công nghệ đó của các doanh nghiệp kinh doanh hoặc các tổ chức khác;
(c) Kiềm chế hoặc ngừng sử dụng các ứng dụng AI không thể hoạt động theo luật nhân quyền quốc tế, bao gồm các ứng dụng cảnh sát dự đoán, các mô hình lập hồ sơ và giám sát như hệ thống nhận dạng sinh trắc học, và trong ngành tư pháp, bao gồm cả trong các quyết định của tòa án trong các vụ án hình sự và trong các đánh giá rủi ro tái phạm đối với các quyết định tại ngoại và ân xá, trừ khi và cho đến khi các cơ quan có thẩm quyền có thể chứng minh rằng các ứng dụng đó tuân thủ quyền được xét xử công bằng, bao gồm một ngành tư pháp độc lập, và các quyền tự do và an ninh, không phân biệt đối xử, không bị tra tấn và ngược đãi và quyền riêng tư, cũng như các quyền bị ảnh hưởng khác
 
quyền con người và các cơ quan chức năng đã giải quyết tác động tiêu cực không cân xứng mà việc sử dụng các công nghệ này có thể gây ra đối với các nhóm cụ thể;
(d) Đảm bảo rằng các hệ thống AI được thiết kế và triển khai theo cách tạo ra các kết quả có thể giải thích được và không phân biệt đối xử; đảm bảo khả năng tiếp cận cho người khuyết tật; và đảm bảo rằng các nhóm dễ bị tổn thương, chẳng hạn như phụ nữ và người khuyết tật, được đưa vào quá trình phát triển, triển khai, sử dụng và giám sát các hệ thống đó;
(e) Xem xét ban hành luật để điều chỉnh các hệ thống AI được sử dụng trong thực thi pháp luật và trong các thủ tục tố tụng, với các hướng dẫn, tiêu chuẩn và biện pháp bảo vệ rõ ràng tuân thủ luật nhân quyền quốc tế; và đảm bảo rằng ngành tư pháp có vai trò và trách nhiệm giám sát trong việc phát triển, triển khai và sử dụng các công nghệ số, và có các quy định để bảo vệ tính độc lập của ngành tư pháp;
(f) Đảm bảo có luật bảo vệ dữ liệu chặt chẽ phù hợp với quyền riêng tư khi sử dụng công nghệ số và AI trong việc thực thi tư pháp;
(g) Đảm bảo rằng quan hệ đối tác công tư nhằm cung cấp và sử dụng công nghệ số và AI trong việc quản lý tư pháp là minh bạch và tuân theo sự giám sát về nhân quyền do các cơ quan độc lập với các cơ quan công quyền và các tổ chức tư nhân đang phát triển, triển khai hoặc sử dụng các hệ thống AI thực hiện;
(h) Xem xét đưa vào các báo cáo gửi tới các cơ quan điều ước nhân quyền của Liên hợp quốc và đợt đánh giá định kỳ toàn cầu, khi thích hợp, thông tin về thiết kế, sử dụng và triển khai công nghệ số và AI trong hệ thống tư pháp của họ, nhằm khuyến khích tính minh bạch, giám sát và hướng dẫn cao hơn về khả năng tương thích của công nghệ đó với nhân quyền;
(i) Đảm bảo cung cấp đào tạo và giáo dục cho cảnh sát, thẩm phán, luật sư và các chuyên gia pháp lý khác để đảm bảo rằng công nghệ, bao gồm AI và công nghệ sinh trắc học, chỉ được sử dụng trong việc quản lý tư pháp khi việc sử dụng đó tuân thủ quyền con người;
(j) Tiến hành các chiến dịch nâng cao nhận thức của công chúng về quyền con người và tác động pháp lý của công nghệ trong hệ thống tư pháp, bao gồm thông qua việc thúc đẩy đối thoại và tham vấn với cộng đồng và các bên liên quan bị ảnh hưởng;
(k) Tăng cường tính minh bạch trong việc sử dụng AI của các quốc gia, tòa án và doanh nghiệp, bao gồm thông báo đầy đủ cho công chúng và các cá nhân bị ảnh hưởng và cho phép kiểm toán độc lập và bên ngoài các hệ thống tự động. Tác động tiềm ẩn hoặc thực tế về quyền con người liên quan đến việc sử dụng AI càng có khả năng và nghiêm trọng thì càng cần tính minh bạch;
(l) Tiến hành thêm nghiên cứu độc lập về tác động của các phiên điều trần trực tuyến đối với quyền con người, đặc biệt là đối với các nhóm dễ bị tổn thương như phụ nữ, người khuyết tật và trẻ em, cũng như về các biện pháp thực tế cần thiết để đảm bảo rằng các phiên điều trần như vậy tuân thủ quyền con người, đặc biệt là quyền được xét xử công bằng và quyền không bị giam giữ tùy tiện, tra tấn và ngược đãi.
12.                Tôi khuyến nghị các quốc gia thành viên và tòa án:
(a) Đảm bảo rằng việc sử dụng công nghệ số và AI tuân thủ quyền được xét xử công bằng, quyền độc lập và công bằng của tư pháp và quyền tự do và an toàn của cá nhân, rằng việc sử dụng đó không tái tạo hoặc làm trầm trọng thêm sự phân biệt đối xử và rằng các bên tham gia tố tụng pháp lý được thông báo về bất kỳ việc sử dụng AI nào trong các tố tụng đó, hiểu được tác động của nó và có cơ hội phản đối việc sử dụng nó;
 
(b) Đảm bảo rằng giám sát điện tử chỉ được sử dụng như một giải pháp thay thế cho việc giam giữ chờ xét xử khi có căn cứ để giam giữ và đảm bảo tôn trọng quyền con người trong bất kỳ việc sử dụng giám sát nào như vậy;
(c) Đảm bảo rằng bằng chứng số được thu thập một cách minh bạch và được quản lý, với các biện pháp bảo vệ thích hợp, trước khi đưa vào quá trình tố tụng tư pháp và các thành viên của cơ quan tư pháp và đại diện pháp lý tham gia vào quá trình tố tụng hình sự được đào tạo và trang bị phù hợp để thẩm vấn và cân nhắc bằng chứng số;
(d) Đảm bảo rằng tòa án và các thành viên của ngành luật lưu trữ và quản lý mọi dữ liệu trong môi trường công nghệ an toàn, trong đó quyền riêng tư của tất cả các bên tham gia tố tụng được bảo vệ và tính bảo mật được bảo vệ, khi thích hợp.
13. Tôi khuyến nghị các doanh nghiệp thực hiện mọi bước để thực hiện trách nhiệm tôn trọng nhân quyền thông qua việc triển khai các Nguyên tắc chỉ đạo về Kinh doanh và Nhân quyền.