Đề thi, bài tập trắc nghiệm online Xử lý ngôn ngữ tự nhiên – Đề 7

Các cân nhắc về đạo đức trong NLP ngày càng trở nên quan trọng do khả năng các hệ thống NLP tạo ra các kết quả thiên vị, phân biệt đối xử (ví dụ: trong tuyển dụng, cho vay), hoặc lan truyền thông tin sai lệch (ví dụ: deepfake văn bản, tin giả). Đảm bảo tính công bằng, minh bạch và trách nhiệm trong phát triển và ứng dụng NLP là rất cần thiết.

Coreference resolution (giải quyết đồng tham chiếu) là một tác vụ NLP phức tạp, nhằm xác định các cụm từ hoặc đại từ khác nhau trong văn bản mà đề cập đến cùng một thực thể thực tế. Ví dụ, trong câu 'Obama đã gặp Merkel. Ông ấy đã thảo luận về biến đổi khí hậu với bà ấy.', coreference resolution sẽ xác định 'Ông ấy' và 'Obama' cùng đề cập đến một người, và 'bà ấy' và 'Merkel' cùng đề cập đến một người khác.

Stop words là các từ rất phổ biến trong ngôn ngữ, nhưng thường ít mang lại giá trị thông tin ngữ nghĩa trong nhiều tác vụ NLP. Ví dụ phổ biến bao gồm 'là', 'và', 'của', 'ở', 'cái',... Việc loại bỏ stop words có thể giúp cải thiện hiệu suất và hiệu quả của một số mô hình NLP.

Phương pháp 'Bag-of-Words' (BoW) rất đơn giản và dễ thực hiện. Nó chỉ đếm tần suất xuất hiện của mỗi từ trong văn bản và bỏ qua thứ tự từ cũng như ngữ cảnh. Mặc dù đơn giản, BoW vẫn hữu ích trong nhiều tác vụ NLP cơ bản.

NLP đóng vai trò quan trọng trong dịch vụ khách hàng. Nó được sử dụng để phân tích phản hồi của khách hàng từ các kênh khác nhau (ví dụ: email, mạng xã hội, khảo sát) để hiểu nhu cầu và vấn đề của khách hàng. Chatbot ứng dụng NLP cũng được sử dụng để cung cấp hỗ trợ khách hàng tự động 24/7, trả lời câu hỏi thường gặp và giải quyết các vấn đề đơn giản.

Nhược điểm chính của 'Bag-of-Words' là nó mất thông tin về thứ tự từ trong câu và ngữ cảnh của từ. Điều này có nghĩa là các câu có cùng tập hợp từ nhưng thứ tự khác nhau sẽ được coi là giống nhau, dẫn đến mất mát thông tin ngữ nghĩa quan trọng.

GPT (Generative Pre-trained Transformer) được biết đến với khả năng sinh văn bản tự nhiên và mạch lạc rất ấn tượng. Nó có thể tạo ra các đoạn văn bản, bài thơ, mã code, v.v. với chất lượng cao, gần như do con người viết.

Nén dữ liệu là một lĩnh vực trong khoa học máy tính liên quan đến việc giảm kích thước dữ liệu để lưu trữ hoặc truyền tải hiệu quả hơn, không phải là một kỹ thuật cốt lõi trong xử lý văn bản của NLP. Các lựa chọn còn lại đều là kỹ thuật quan trọng trong NLP.

RNN (Mạng nơ-ron hồi quy) được thiết kế đặc biệt để xử lý dữ liệu tuần tự, trong đó đầu ra hiện tại phụ thuộc vào các đầu vào trước đó trong chuỗi. Văn bản là một dạng dữ liệu tuần tự (chuỗi các từ), do đó RNN rất phù hợp cho nhiều tác vụ NLP như dịch máy, sinh văn bản, phân tích tình cảm, v.v.

NLP có nhiều ứng dụng trong lĩnh vực y tế. Một trong số đó là phân tích hồ sơ bệnh án điện tử (EHRs) để trích xuất thông tin quan trọng, xác định xu hướng bệnh tật, hỗ trợ quyết định lâm sàng, và cải thiện chất lượng chăm sóc bệnh nhân. Các lựa chọn khác thuộc về các lĩnh vực khác của y tế hoặc kỹ thuật.

Tokenization là quá trình phân tách một chuỗi văn bản thành các đơn vị nhỏ hơn gọi là tokens. Tokens có thể là từ, cụm từ, ký tự, hoặc các đơn vị ngữ nghĩa khác, tùy thuộc vào mục tiêu xử lý.

Phân tích cú pháp (parsing) trong NLP là quá trình phân tích cấu trúc ngữ pháp của một câu, xác định các thành phần câu (chủ ngữ, vị ngữ, tân ngữ,...) và mối quan hệ giữa chúng để hiểu được cấu trúc và ý nghĩa của câu.

BERT (Bidirectional Encoder Representations from Transformers) được huấn luyện theo hướng song song (bidirectional), nghĩa là nó xem xét ngữ cảnh cả trước và sau của một từ trong câu khi học biểu diễn từ. Điều này giúp BERT hiểu ngữ cảnh tốt hơn và đạt hiệu suất cao trong nhiều tác vụ NLP.

Mô hình ngôn ngữ (Language Model) là một mô hình thống kê dự đoán xác suất xuất hiện của một chuỗi từ trong một ngôn ngữ. Nó được sử dụng rộng rãi trong nhiều tác vụ NLP như sinh văn bản, dịch máy, nhận dạng giọng nói, và sửa lỗi chính tả.

Transformer networks, như BERT và GPT, sử dụng cơ chế chú ý (Attention) để tập trung vào các phần quan trọng của đầu vào khi xử lý. Cơ chế này cho phép mô hình xử lý thông tin ngữ cảnh từ toàn bộ câu một cách hiệu quả hơn so với RNN, vốn gặp khó khăn với thông tin ở xa trong chuỗi dài.

Sự đa nghĩa (ambiguity) của ngôn ngữ là một thách thức lớn trong NLP. Một từ hoặc cụm từ có thể có nhiều nghĩa khác nhau tùy thuộc vào ngữ cảnh sử dụng. Ví dụ, từ 'bank' có thể chỉ 'ngân hàng' hoặc 'bờ sông'. NLP cần phải có khả năng giải quyết sự đa nghĩa này để hiểu đúng ý nghĩa của văn bản.

Stemming là kỹ thuật rút gọn các từ về dạng gốc (stem) của chúng bằng cách loại bỏ các hậu tố hoặc tiền tố. Mục tiêu là đưa các từ có cùng gốc ngữ nghĩa về một dạng chung, giúp giảm số lượng từ vựng và cải thiện khả năng khái quát hóa của mô hình.

'Contextual understanding' (hiểu ngữ cảnh) là khả năng quan trọng của NLP, giúp mô hình hiểu được ý nghĩa chính xác của từ và câu dựa trên ngữ cảnh xung quanh. Điều này đặc biệt quan trọng vì nhiều từ có thể có nhiều nghĩa, và ngữ cảnh giúp xác định nghĩa phù hợp trong từng trường hợp cụ thể.

Named Entity Recognition (NER - Nhận dạng thực thể có tên) là một tác vụ NLP nhằm xác định và phân loại các thực thể có tên trong văn bản thành các danh mục khác nhau, như tên người, tổ chức, địa điểm, ngày tháng, số lượng, v.v. Ví dụ, trong câu 'Apple được thành lập bởi Steve Jobs ở California', NER sẽ nhận dạng 'Apple' là Tổ chức, 'Steve Jobs' là Người, và 'California' là Địa điểm.

Word embeddings biểu diễn từ dưới dạng các vector số thực trong không gian nhiều chiều, trong đó các từ có ngữ nghĩa tương tự sẽ nằm gần nhau hơn. Điều này cho phép mô hình NLP nắm bắt được ngữ nghĩa và quan hệ giữa các từ một cách hiệu quả hơn so với Bag-of-Words, vốn chỉ dựa trên tần suất từ.

NLU (Hiểu ngôn ngữ tự nhiên) là thành phần quan trọng trong chatbot, chịu trách nhiệm phân tích đầu vào ngôn ngữ tự nhiên của người dùng để hiểu được ý định hoặc mục đích của họ. Dựa trên ý định này, chatbot sẽ đưa ra phản hồi hoặc thực hiện hành động phù hợp.

TF-IDF là viết tắt của Term Frequency - Inverse Document Frequency. Đây là một kỹ thuật thống kê được sử dụng để đo lường tầm quan trọng của một từ trong một văn bản so với một tập hợp các văn bản (corpus). TF-IDF giúp xác định các từ khóa quan trọng nhất trong mỗi văn bản.

Spam filtering (lọc thư rác) là một ứng dụng của tác vụ phân loại văn bản trong NLP. Mô hình được huấn luyện để phân loại email hoặc tin nhắn văn bản thành hai loại: 'spam' (rác) và 'non-spam' (không rác) dựa trên nội dung văn bản.

Nhận dạng khuôn mặt là một lĩnh vực của thị giác máy tính (Computer Vision), không phải là ứng dụng trực tiếp của Xử lý ngôn ngữ tự nhiên (NLP). Các lựa chọn còn lại (dịch máy, chatbot, phân tích tình cảm) đều là các ứng dụng phổ biến và quan trọng của NLP.

Phân tích tình cảm (Sentiment Analysis) là một lĩnh vực của NLP tập trung vào việc xác định và đánh giá cảm xúc, thái độ, hoặc quan điểm được thể hiện trong văn bản. Cảm xúc thường được phân loại thành tích cực, tiêu cực hoặc trung lập.

Fine-tuning (tinh chỉnh) là quá trình tiếp tục huấn luyện một mô hình ngôn ngữ đã được huấn luyện trước (pre-trained) trên một tập dữ liệu nhỏ hơn và cụ thể hơn cho một tác vụ NLP cụ thể (ví dụ: phân loại tình cảm, nhận dạng thực thể). Fine-tuning tận dụng kiến thức đã học được từ quá trình pre-training để đạt hiệu suất tốt hơn trên tác vụ mục tiêu với ít dữ liệu hơn.

Zero-shot learning trong NLP là khả năng của một mô hình thực hiện một tác vụ (ví dụ: phân loại, trả lời câu hỏi) mà nó chưa từng được huấn luyện trực tiếp cho tác vụ đó. Mô hình có thể khái quát hóa kiến thức đã học được từ các tác vụ liên quan để giải quyết các tác vụ mới mà không cần dữ liệu huấn luyện cụ thể cho tác vụ đó.

BLEU (Bilingual Evaluation Understudy) score là một chỉ số phổ biến để đánh giá chất lượng của bản dịch máy. Nó đo lường mức độ tương đồng giữa bản dịch do máy tạo ra và một hoặc nhiều bản dịch tham khảo do con người tạo ra, dựa trên số lượng n-gram trùng khớp.

WordNet là một cơ sở dữ liệu từ vựng ngữ nghĩa lớn cho tiếng Anh và nhiều ngôn ngữ khác. Nó tổ chức các từ thành các tập hợp đồng nghĩa (synsets) và mô tả mối quan hệ ngữ nghĩa giữa các từ, như quan hệ đồng nghĩa, trái nghĩa, bao hàm, v.v.

Xử lý ngôn ngữ tự nhiên (NLP) là một nhánh của trí tuệ nhân tạo, tập trung vào việc giúp máy tính hiểu, diễn giải và tạo ra ngôn ngữ của con người một cách có giá trị và hữu ích.