OpenAI đã giới thiệu một AI trả lời câu hỏi dạng dài có tên là ChatGPT để trả lời các câu hỏi phức tạp một cách đàm thoại. Đó là một công nghệ mang tính cách mạng vì nó được đào tạo để tìm hiểu ý nghĩa của con người khi họ đặt câu hỏi. Nhiều người dùng kinh ngạc về khả năng cung cấp phản hồi chất lượng của con người, tạo cảm giác rằng cuối cùng nó có thể có khả năng phá vỡ cách con người tương tác với máy tính và thay đổi cách truy xuất thông tin.
-
ChatGPT là gì?
ChatGPT là một chatbot mô hình ngôn ngữ lớn được OpenAI phát triển dựa trên GPT-3.5. Nó có một khả năng đáng chú ý là tương tác ở dạng đối thoại đàm thoại và đưa ra những phản hồi có vẻ giống con người một cách đáng ngạc nhiên. Các mô hình ngôn ngữ lớn thực hiện nhiệm vụ dự đoán từ tiếp theo trong một chuỗi từ. Học tăng cường với phản hồi của con người (RLHF) là một lớp đào tạo bổ sung sử dụng phản hồi của con người để giúp ChatGPT tìm hiểu khả năng làm theo chỉ dẫn và tạo ra phản hồi làm hài lòng con người.
-
Ai đã xây dựng ChatGPT?
ChatGPT được tạo bởi công ty trí tuệ nhân tạo OpenAI có trụ sở tại San Francisco. OpenAI Inc. là công ty mẹ phi lợi nhuận của OpenAI LP hoạt động vì lợi nhuận. OpenAI nổi tiếng với DALL·E nổi tiếng, một mô hình học sâu tạo ra hình ảnh từ các hướng dẫn văn bản được gọi là lời nhắc. Giám đốc điều hành là Sam Altman, người trước đây là chủ tịch của Y Combinator.
Microsoft là đối tác và nhà đầu tư với số tiền 1 tỷ đô la. Họ đã cùng nhau phát triển Nền tảng Azure AI .
Mô hình ngôn ngữ lớn
ChatGPT là một mô hình ngôn ngữ lớn (LLM). Mô hình ngôn ngữ lớn (LLM) được đào tạo với lượng dữ liệu khổng lồ để dự đoán chính xác từ nào tiếp theo trong câu. Người ta phát hiện ra rằng việc tăng lượng dữ liệu sẽ làm tăng khả năng làm được nhiều việc hơn của các mô hình ngôn ngữ. LLM dự đoán từ tiếp theo trong một chuỗi từ trong câu và các câu tiếp theo – giống như tự động hoàn thành, nhưng ở quy mô khó hiểu.
Khả năng này cho phép họ viết các đoạn văn và toàn bộ trang nội dung.
Nhưng các LLM bị hạn chế ở chỗ không phải lúc nào họ cũng hiểu chính xác con người muốn gì. Và đó là nơi ChatGPT cải thiện ở trạng thái hiện đại nhất, với chương trình đào tạo Học tăng cường với phản hồi của con người (RLHF) đã nói ở trên. -
ChatGPT được đào tạo như thế nào?
GPT-3.5 đã được đào tạo dựa trên lượng dữ liệu khổng lồ về mã và thông tin từ internet, bao gồm các nguồn như thảo luận Reddit, để giúp ChatGPT học cách đối thoại và đạt được phong cách phản hồi của con người. ChatGPT cũng được đào tạo bằng cách sử dụng phản hồi của con người (một kỹ thuật gọi là Học tăng cường với phản hồi của con người) để AI biết được những gì con người mong đợi khi họ đặt câu hỏi. Đào tạo LLM theo cách này là một cuộc cách mạng vì nó không chỉ đơn giản là đào tạo LLM để dự đoán từ tiếp theo.
