Khá nhiều người khi lần đầu trải nghiệm ChatGPT thường đặt ra những yêu cầu đơn giản để kiểm chứng khả năng của trí tuệ nhân tạo này. Một trong những yêu cầu thông thường là “hãy đếm từ 1 đến 1 triệu”. Câu trả lời nhận được thường là sự từ chối, hoặc ChatGPT chỉ liệt kê được một đoạn ngắn rồi ngừng lại. Thực tế, điều này không phải do mô hình không biết đếm hay thiếu năng lực logic, mà xuất phát từ những giới hạn kỹ thuật, định hướng thiết kế và cả bản chất của mô hình ngôn ngữ. Chính những yếu tố này khiến một việc tưởng chừng đơn giản lại trở thành bất khả thi.
ChatGPT được xây dựng trên cơ sở các mô hình ngôn ngữ lớn, vận hành bằng cách dự đoán từ hoặc ký tự tiếp theo dựa trên chuỗi văn bản đã có. Mỗi dữ liệu hệ thống sinh ra đều được chia thành những đơn vị nhỏ gọi là token. Một token có thể là một từ, một phần của từ hoặc một ký tự đặc biệt. Mỗi phiên trò chuyện, mô hình chỉ có khả năng xử lý và tạo ra một số lượng token nhất định. Với các phiên bản hiện nay, con số này dao động từ vài nghìn đến vài chục nghìn. Nếu yêu cầu đếm từ 1 đến 1 triệu, lượng dữ liệu cần sinh ra sẽ vượt xa giới hạn đó. Chỉ riêng việc in ra một triệu số nguyên đã đối mặt nhiều triệu ký tự, tương ứng hàng chục triệu token. Không có mô hình nào có thể xử lý được khối lượng dữ liệu khổng lồ như vậy trong một phiên duy nhất. Đây là rào cản kỹ thuật rõ ràng và không thể vượt qua với điều kiện hiện tại.
Ngay cả trong trường hợp giả định rằng hệ thống không có giới hạn về dung lượng, việc đếm đến 1 triệu cũng không thể thực hiện. Để đọc hoặc hiện thị toàn bộ chuỗi số này, người dùng sẽ phải mất rất nhiều thời gian mà không thu về thông tin hữu ích. Nếu thao tác ở dạng văn bản, bạn sẽ phải cuộn chuột liên tục qua hàng trăm ngàn dòng. Nếu sử dụng dạng giọng nói, việc nghe máy đọc từng…