• Vietnamleads
  • Liên hệ
06/07/2025
Vietnamleads
Không có kết quả
Xem tất cả kết quả
  • Thị trường
  • Doanh nghiệp
  • Đầu tư
  • Hạ tầng
  • Tài chính
    • Ngân hàng
    • Bảo hiểm
  • Chuyển đổi số
    • Số hóa
  • Chính sách
  • To Foreigner
    • Opportunities
    • Policy & Regulation
  • Thị trường
  • Doanh nghiệp
  • Đầu tư
  • Hạ tầng
  • Tài chính
    • Ngân hàng
    • Bảo hiểm
  • Chuyển đổi số
    • Số hóa
  • Chính sách
  • To Foreigner
    • Opportunities
    • Policy & Regulation
VNL
Không có kết quả
Xem tất cả kết quả
VNL Số hóa

Công cụ AI chuyển lời nói thành văn bản của OpenAI bị phát hiện bịa chuyện

31/10/2024
0 0
A A
0
Công cụ AI chuyển lời nói thành văn bản của OpenAI bị phát hiện bịa chuyện
0
Chia sẻ
Share on FacebookShare on Twitter

Công cụ AI trong bệnh viện bịa ra những điều không ai nói - Ảnh 1.

Một số đoạn văn bản được AI tạo ra – gọi là “ảo giác” – có thể bao gồm các bình luận về chủng tộc, ngôn từ bạo lực và thậm chí là các phương pháp điều trị y tế tưởng tượng – Ảnh: AP

Theo AP, từ phỏng vấn với các kỹ sư phần mềm, nhà phát triển và nhà nghiên cứu học thuật, các chuyên gia cho biết một số đoạn văn bản do AI tạo ra là không có thật, được gọi là “ảo giác”. Đáng nói, chúng bao gồm các bình luận về chủng tộc, ngôn từ bạo lực và thậm chí là các phương pháp điều trị y tế tưởng tượng.

Tỉ lệ “ảo giác” cao trong các văn bản do AI tạo ra

Các chuyên gia đặc biệt lo ngại vì Whisper đang được sử dụng rộng rãi trong nhiều ngành trên toàn thế giới để dịch và chuyển đổi các cuộc phỏng vấn, tạo văn bản trong các công nghệ tiêu dùng phổ biến và tạo phụ đề cho video.

Đáng lo hơn là nhiều trung tâm y tế đang sử dụng Whisper để chuyển đổi các cuộc tư vấn giữa bác sĩ và bệnh nhân, mặc dù OpenAI đã cảnh báo rằng công cụ này không nên được sử dụng trong những lĩnh vực “rủi ro cao”.

Mức độ đầy đủ của vấn đề khó mà xác định được, nhưng các nhà nghiên cứu và kỹ sư cho biết trong công việc họ thường xuyên gặp phải các “ảo giác” của Whisper.

Một nhà nghiên cứu tại Đại học Michigan kể anh phát hiện thấy “ảo giác” ở tám trong mười bản chuyển đổi âm thanh mà anh kiểm tra. Một kỹ sư máy tính phát hiện ra “ảo giác” trong khoảng một nửa số bản chuyển đổi hơn 100 giờ âm thanh mà anh phân tích. Một nhà phát triển khác cho biết anh phát hiện “ảo giác” gần như ở tất cả 26.000 bản ghi mà anh tạo ra bằng Whisper.

Vấn đề vẫn tiếp tục ngay cả với các mẫu âm thanh ngắn, được ghi âm rõ ràng. Một nghiên cứu gần đây của các nhà khoa học máy tính đã phát hiện ra 187 “ảo giác” trong hơn 13.000 đoạn âm thanh rõ ràng mà họ đã kiểm tra. Xu hướng này sẽ dẫn đến hàng chục ngàn bản chuyển đổi sai trong hàng triệu bản ghi âm, các nhà nghiên cứu cho biết.

Những sai sót như vậy có thể dẫn đến “hậu quả rất nghiêm trọng”, đặc biệt là trong môi trường bệnh viện, theo bà Alondra Nelson, người từng đứng đầu Văn phòng Khoa học và Công nghệ của Nhà Trắng trong chính quyền của Tổng thống Biden cho đến năm ngoái.

“Không ai muốn một chẩn đoán sai”, bà Nelson, hiện là một giáo sư tại Viện Nghiên cứu Cao cấp tại Princeton, New Jersey, nhấn mạnh. “Cần phải có một tiêu chuẩn cao hơn”.

Whisper cũng được sử dụng để tạo phụ đề cho người điếc và khiếm thính – một đối tượng đặc biệt có nguy cơ cao đối với các bản chuyển đổi sai. Điều này là do người điếc và khiếm thính không có cách nào để xác định các đoạn văn bịa đặt “ẩn trong tất cả các văn bản khác”, ông Christian Vogler, người điếc và là giám đốc Chương trình Tiếp cận công nghệ tại Đại học Gallaudet, nói.

OpenAI được kêu gọi giải quyết vấn đề

Sự phổ biến của các “ảo giác” như vậy đã khiến các chuyên gia, những người ủng hộ và cựu nhân viên của OpenAI kêu gọi chính phủ liên bang xem xét các quy định về AI. Tối thiểu, OpenAI cần phải giải quyết lỗi này.

“Vấn đề này có thể giải quyết được nếu công ty sẵn lòng ưu tiên nó”, ông William Saunders, một kỹ sư nghiên cứu ở San Francisco, người đã rời khỏi OpenAI vào tháng 2 vì lo ngại về hướng đi của công ty, nhận định.

“Sẽ là vấn đề nếu bạn đưa nó ra và mọi người quá tự tin về những gì nó có thể làm rồi tích hợp nó vào tất cả các hệ thống khác”. Một phát ngôn viên của OpenAI cho biết công ty liên tục nghiên cứu cách giảm thiểu các “ảo giác” và đánh giá cao những phát hiện của các nhà nghiên cứu, đồng thời cho biết OpenAI tích hợp phản hồi trong các cập nhật mô hình.

Mặc dù hầu hết các nhà phát triển giả định rằng các công cụ chuyển văn bản có thể sai chính tả hoặc mắc lỗi khác, các kỹ sư và nhà nghiên cứu cho biết họ chưa từng thấy một công cụ chuyển văn bản nào do AI hỗ trợ lại gặp “ảo giác” nhiều như Whisper.

Công cụ AI trong bệnh viện bịa ra những điều không ai nói - Ảnh 2.Nobel Vật lý 2024: Những người đặt nền móng cho AI

Giải Nobel vật lý năm nay đã được trao cho hai nhà khoa học John J. Hopfield và Geoffrey E. Hinton vì “những khám phá và phát minh cơ bản khởi nguồn cho sự phát triển của ngành học máy với mạng nơron nhân tạo”.

(Nguồn tin)

Chia sẻTweetChia sẻ

Đăng ký nhận cập nhật mới nhất về các bài viết cùng chủ đề.

Hủy đăng ký
Bài viết trước

TP.HCM là địa phương đầu tiên hoàn thành số hóa 4 loại sổ hộ tịch

Bài viết sau

Một ngân hàng báo lỗ 343 tỷ đồng trong quý 3/2024

Bài viết liên quan

Hé lộ 'bí mật' mã OTP
Số hóa

Hé lộ 'bí mật' mã OTP

05/07/2025
0
Bluetooth và AirDrop: Tưởng giống, hóa ra không
Số hóa

Bluetooth và AirDrop: Tưởng giống, hóa ra không

05/07/2025
0
Làm việc thời nay là lúc nào cũng phải online?
Số hóa

Làm việc thời nay là lúc nào cũng phải online?

05/07/2025
0
Bài viết sau

Một ngân hàng báo lỗ 343 tỷ đồng trong quý 3/2024

Để lại một bình luận Hủy

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *

Bài viết mới

  • Giá USD hôm nay 2/7: Giảm không ngừng
  • Dollar gains against dong on black market
  • Trung tâm Dữ liệu quốc gia thành lập 2 đơn vị chiến lược mới
  • Khởi nguồn phong cách sống vươn tầm
  • Sàn thương mại điện tử nộp thuế hộ, nhưng người bán vẫn loay hoay với một vấn đề chưa có lời giải

Bình luận gần đây

    Bài viết lưu trữ

    • Tháng bảy 2025
    • Tháng sáu 2025
    • Tháng năm 2025
    • Tháng tư 2025
    • Tháng ba 2025
    • Tháng hai 2025
    • Tháng Một 2025
    • Tháng mười hai 2024
    • Tháng mười một 2024
    • Tháng mười 2024
    • Tháng chín 2024
    • Tháng tám 2024
    • Tháng bảy 2024
    • Tháng sáu 2024
    • Tháng năm 2024
    • Tháng tư 2024
    • Tháng ba 2024
    • Tháng hai 2024
    • Tháng Một 2024
    • Tháng mười hai 2023
    • Tháng mười một 2023
    • Tháng mười 2023
    • Tháng chín 2023
    • Tháng tám 2023
    • Tháng bảy 2023
    • Tháng sáu 2023
    • Tháng năm 2023
    • Tháng tư 2023
    • Tháng ba 2023
    • Tháng hai 2023
    • Tháng Một 2023
    • Tháng mười hai 2022
    • Tháng chín 2022
    • Tháng bảy 2022
    • Tháng sáu 2022
    • Tháng năm 2022
    • Tháng tư 2022
    • Tháng ba 2022
    • Tháng hai 2022
    • Tháng mười hai 2021
    • Tháng mười một 2021
    • Tháng mười 2021
    • Vietnamleads
    • Liên hệ
    Email us: us@vietnamleads.com

    © 2021 | Vietnamleads

    Không có kết quả
    Xem tất cả kết quả
    • Thị trường
    • Doanh nghiệp
    • Đầu tư
    • Hạ tầng
    • Tài chính
      • Ngân hàng
      • Bảo hiểm
    • Chuyển đổi số
      • Số hóa
    • Chính sách
    • To Foreigner
      • Opportunities
      • Policy & Regulation
    • Đăng nhập

    © 2021 | Vietnamleads

    Chào mừng bạn trở lại!

    Đăng nhập với Facebook
    Đăng nhập với Google
    Hoặc

    Đăng nhập vào Tài khoản bên dưới

    Quên Mật khẩu?

    Lấy lại Mật khẩu

    Vui lòng nhập Tên đăng nhập hoặc Email để đặt lại Mật khẩu.

    Đăng nhập
    Trang web này sử dụng cookie. Bằng cách tiếp tục sử dụng trang web này, bạn đồng ý với việc sử dụng cookie.