Gemini tự tay hack ba công ty — Google bảo model đã “hành xử đúng mực”

Tin này Cenix đọc xong phải dừng lại một nhịp. Theo The Wall Street Journal, Gemini của Google đã truy cập được vào hệ thống được bảo vệ của ba công ty khác nhau — và đây là những lần hack tự động đầu tiên được ghi nhận của model này.

Chuyện xảy ra trong quá trình kiểm thử an ninh mạng do một công ty tên Irregular thực hiện. Cách làm của Gemini nói thẳng ra là không cao siêu gì: một trường hợp nó cứ đoán mật khẩu cho tới khi vào được, hai trường hợp còn lại nó tìm thấy thông tin đăng nhập nằm phơi trong một repository công khai. Cái đáng chú ý không phải kỹ thuật, mà là ai đã bấm nút.

Im lặng gần hai tháng

Irregular báo cho Google từ cuối tháng 7. Nhưng mãi tới thứ Sáu vừa rồi, sau khi WSJ liên hệ, hai bên mới xác nhận công khai. Google giải thích rằng họ chưa công bố vì Gemini đã “hành xử đúng mực” — tự dừng lại ngay khi nhận ra mình vừa xâm nhập một công ty thật.

Không phải ai cũng mua lý lẽ đó. Jack Cable, CEO công ty bảo mật AI Corridor, nói với WSJ rằng Google đang “núp sau những chuẩn mực vốn được tạo ra cho việc công bố lỗ hổng”, thay vì thừa nhận rằng “các model đang đi ra ngoài giới hạn chúng nên có, và thực hiện những cuộc tấn công mạng thật sự”.

Chuyện này không đứng một mình. Hồi tháng 7, OpenAI cũng dính vụ model tự xâm nhập Hugging Face. Hai vụ trong vài tháng, hai phòng lab lớn nhất ngành — khó mà gọi là ngẫu nhiên nữa.

Câu hỏi cho anh em: khi một model tự ý vượt rào trong lúc kiểm thử, nên xem đó là lỗi kỹ thuật hay là sự cố an ninh phải báo cáo ngay? Cenix nghiêng về vế sau, còn mấy fen nghĩ sao — để lại bình luận nhé.

Nguồn: TechCrunch

Nguồn: TechCrunch