Sự phát triển như vũ bão của trí tuệ nhân tạo (AI) đã khiến việc xác thực thông tin trở thành mối quan tâm lớn, trong bối cảnh nhà chức trách lo ngại rằng AI có thể bị lạm dụng cho những mục đích xấu, gây rối loạn trật tự xã hội.
Công ty OpenAI ngày 7/5 đã giới thiệu công cụ mới, có thể xác định liệu một hình ảnh kỹ thuật số có phải là sản phẩm của AI hay không.
Công cụ này hiện đang trong quá trình thử nghiệm và chỉ hoạt động đối với các mô hình AI tạo sinh do OpenAI phát triển, như DALL-E 3, nền tảng tạo hình ảnh dựa trên những gợi ý cho sẵn bằng văn bản.
Theo OpenAI, trong quá trình thử nghiệm nội bộ, công cụ này đã phát hiện chính xác khoảng 98% các hình ảnh do DALL-E 3 tạo ra, trong khi tỷ lệ kết quả sai là chưa tới 0,5%.
Tuy nhiên, công ty cũng cho biết nền tảng DALL-E 3 hiện đã được cải tiến và theo đó gây khó khăn hơn cho công cụ nhận diện hình ảnh này.
Ngoài ra, công cụ này cũng mới chỉ xác định đúng 5-10% số hình ảnh do các mô hình AI khác tạo ra.
OpenAI cho biết công ty này sẽ chèn các watermark (ký tự nhận diện được làm mờ) vào hệ thống siêu dữ liệu hình ảnh AI, trong bối cảnh đang có nhiều công ty đăng ký tham gia các tiêu chuẩn của Liên minh chứng minh và xác thực nội dung (C2PA).
C2PA là một sáng kiến của ngành công nghệ, trong đó đặt ra tiêu chuẩn kỹ thuật để xác định nguồn gốc và tính xác thực của nội dung số.
Từ đầu tháng 5 này, nền tảng mạng xã hội Facebook của công ty Meta cũng bắt đầu gắn nhãn cho các thông tin truyền thông do AI tạo ra theo tiêu chuẩn C2PA. Tập đoàn Google cũng đã tham gia sáng kiến này./.
OpenAI ra mắt công cụ nhân bản giọng nói trên mẫu âm thanh 15 giây
Theo bài đăng trên blog của OpenAI chia sẻ kết quả thử nghiệm quy mô nhỏ của "Voice Engine," công cụ này cơ bản có thể sao chép giọng nói của người nào đó dựa trên mẫu âm thanh 15 giây.
