Đề thi, bài tập trắc nghiệm online Xử lý ngôn ngữ tự nhiên – Đề 1

Nhận dạng khuôn mặt là một lĩnh vực của thị giác máy tính (Computer Vision), không liên quan trực tiếp đến xử lý ngôn ngữ tự nhiên. Dịch máy, phân tích cảm xúc văn bản và trợ lý ảo đều là các ứng dụng quan trọng của NLP.

Mạng nơ-ron hồi quy (RNN) được thiết kế để xử lý dữ liệu tuần tự như ngôn ngữ tự nhiên. RNN có khả năng duy trì trạng thái ẩn (hidden state) để ghi nhớ thông tin từ các bước xử lý trước đó trong chuỗi, cho phép chúng nắm bắt được ngữ cảnh và mối quan hệ phụ thuộc giữa các phần tử trong chuỗi.

Phân tích ngữ nghĩa (semantic analysis) tập trung vào việc hiểu ý nghĩa của ngôn ngữ. Nó đi sâu hơn phân tích cú pháp, cố gắng giải mã thông điệp thực sự mà ngôn ngữ truyền tải, bao gồm ý nghĩa của từ, mối quan hệ giữa các từ và ý nghĩa tổng thể của văn bản.

Named Entity Recognition (NER) là quá trình xác định và phân loại các thực thể có tên riêng (named entities) trong văn bản vào các danh mục định trước như tên người, tổ chức, địa điểm, thời gian, v.v. Nó giúp trích xuất thông tin có cấu trúc từ văn bản phi cấu trúc.

Phân tích cảm xúc là một ứng dụng của NLP, không phải là một bước tiền xử lý văn bản. Các bước tiền xử lý thường tập trung vào làm sạch và chuẩn bị dữ liệu văn bản cho các bước phân tích tiếp theo như tách từ, chuẩn hóa, và loại bỏ stop words.

Word2Vec là một kỹ thuật phổ biến thuộc nhóm 'word embeddings', dùng để biểu diễn từ ngữ thành các vector số trong không gian nhiều chiều, thể hiện mối quan hệ ngữ nghĩa giữa các từ. Bag-of-Words và TF-IDF là các phương pháp vector hóa văn bản khác, nhưng không thuộc nhóm 'word embeddings' theo nghĩa hẹp. Regular Expression dùng để xử lý chuỗi, không phải embeddings.

Phân tích cảm xúc (sentiment analysis) và phân tích văn phong (stylometric analysis) có thể được sử dụng để phát hiện tin giả. Tin giả thường có văn phong khác biệt và cảm xúc cường điệu so với tin tức chính thống. Các kỹ thuật này có thể giúp nhận diện các dấu hiệu bất thường và hỗ trợ quá trình xác minh tin tức.

BLEU (Bilingual Evaluation Understudy) score là một độ đo phổ biến để đánh giá chất lượng của mô hình dịch máy. Nó so sánh văn bản được dịch bởi máy với một hoặc nhiều bản dịch tham khảo của con người, đo lường mức độ tương đồng về n-gram giữa chúng. Accuracy, Precision, và F1-score thường được dùng trong các tác vụ phân loại.

Zero-shot learning (học không mẫu) là khả năng của một mô hình để thực hiện các tác vụ hoặc phân loại các lớp mới mà nó chưa từng thấy dữ liệu huấn luyện cho các lớp đó. Mô hình học cách khái quát hóa kiến thức từ các lớp đã biết sang các lớp chưa biết, thường dựa trên mô tả hoặc thuộc tính của các lớp đó.

Intent recognition (nhận dạng ý định) là bước quan trọng nhất trong việc xây dựng chatbot. Nó giúp chatbot hiểu được mục đích thực sự của người dùng khi họ đưa ra một câu hỏi hoặc yêu cầu, ví dụ như 'đặt vé máy bay', 'tra cứu thời tiết', 'hỏi về sản phẩm', v.v. Dựa trên ý định được nhận dạng, chatbot có thể đưa ra phản hồi phù hợp.

Cơ chế chú ý (attention mechanism) là một thành phần quan trọng của mô hình Transformer. Nó cho phép mô hình tập trung có chọn lọc vào các phần khác nhau của dữ liệu đầu vào (ví dụ, các từ khác nhau trong một câu) khi tạo ra đầu ra, giúp cải thiện khả năng nắm bắt ngữ cảnh và mối quan hệ trong dữ liệu.

'Stop words' là các từ xuất hiện thường xuyên trong văn bản (ví dụ: 'là', 'và', 'của', 'the', 'a', 'is'), nhưng lại ít đóng góp vào ý nghĩa chính của văn bản trong nhiều ứng dụng NLP. Do đó, chúng thường được loại bỏ để tập trung vào các từ quan trọng hơn.

Mô hình Transformer, nhờ cơ chế chú ý, có thể xử lý song song các phần của dữ liệu đầu vào, trong khi RNN phải xử lý tuần tự. Điều này giúp Transformer huấn luyện nhanh hơn đáng kể, đặc biệt với dữ liệu lớn, và hiệu quả hơn trong việc nắm bắt các mối quan hệ xa trong văn bản.

Knowledge graph (biểu đồ tri thức) là một cơ sở tri thức biểu diễn thông tin dưới dạng đồ thị, với các nút là thực thể (entities) và các cạnh là mối quan hệ (relationships) giữa các thực thể đó. Trong NLP, knowledge graph được sử dụng để lưu trữ tri thức thế giới, hỗ trợ các tác vụ như trả lời câu hỏi, suy luận, và tìm kiếm ngữ nghĩa.

Word sense disambiguation (WSD) là quá trình xác định nghĩa chính xác của một từ đa nghĩa (từ có nhiều nghĩa) trong một ngữ cảnh cụ thể. Vì một từ có thể mang nhiều ý nghĩa khác nhau, WSD giúp máy tính hiểu đúng ý nghĩa mà từ đó truyền tải trong từng trường hợp cụ thể.

Xử lý ngôn ngữ tự nhiên (NLP) là ngành liên quan đến việc giúp máy tính có thể hiểu, xử lý và tạo ra ngôn ngữ con người, không phải các lĩnh vực khác như tối ưu hóa, cấu trúc dữ liệu hay phần cứng.

Tách từ (tokenization) là quá trình chia văn bản thành các đơn vị nhỏ hơn (tokens), thường là từ hoặc cụm từ, để tạo điều kiện cho việc phân tích và xử lý ngôn ngữ một cách hiệu quả hơn. Đây là bước cơ bản để máy tính có thể 'đọc' và hiểu văn bản.

Transfer learning (học chuyển giao) là một kỹ thuật quan trọng trong NLP, đặc biệt khi dữ liệu huấn luyện cho một tác vụ cụ thể là hạn chế. Nó cho phép tận dụng kiến thức đã học được từ việc huấn luyện mô hình trên một tập dữ liệu lớn (thường là cho một tác vụ tương tự hoặc tổng quát hơn) để cải thiện hiệu suất và tốc độ huấn luyện trên tác vụ mới với dữ liệu ít hơn.

Cả 'stemming' và 'lemmatization' đều nhằm mục đích đưa các từ về dạng gốc của chúng (dạng cơ sở). Tuy nhiên, 'lemmatization' thường cho kết quả chính xác hơn vì nó xem xét ngữ cảnh và từ điển, trong khi 'stemming' chỉ đơn giản cắt bỏ các hậu tố.

Parsing (phân tích cú pháp) là quá trình phân tích cấu trúc ngữ pháp của một câu để xác định mối quan hệ giữa các từ và cụm từ, cũng như vai trò ngữ pháp của chúng (ví dụ: chủ ngữ, vị ngữ, tân ngữ). Kết quả thường được biểu diễn dưới dạng cây cú pháp.

Tính đa nghĩa (ambiguity) của ngôn ngữ tự nhiên là một thách thức lớn đối với NLP. Một từ hoặc cụm từ có thể có nhiều nghĩa khác nhau tùy thuộc vào ngữ cảnh, khiến máy tính khó khăn trong việc xác định ý nghĩa chính xác mà con người muốn truyền đạt. Điều này ảnh hưởng đến độ chính xác của nhiều ứng dụng NLP.

TF-IDF (Term Frequency-Inverse Document Frequency) là một kỹ thuật thống kê để đánh giá tầm quan trọng của một từ trong một tài liệu so với toàn bộ tập hợp tài liệu. Nó thường được sử dụng trong khai phá văn bản và truy xuất thông tin để lọc ra các từ khóa quan trọng.

Natural Language Generation (NLG) là khả năng tạo ra ngôn ngữ tự nhiên từ dữ liệu hoặc thông tin có cấu trúc. Tự động tóm tắt văn bản là một ví dụ của NLG, khi hệ thống cần tạo ra một đoạn văn bản mới (bản tóm tắt) từ văn bản gốc. Các lựa chọn khác thuộc về các lĩnh vực khác của NLP như phân loại văn bản, nhận dạng giọng nói, và truy xuất thông tin.

N-gram là một chuỗi gồm n từ liên tiếp được trích xuất từ một văn bản. Ví dụ, 'unigram' là 1 từ, 'bigram' là 2 từ, 'trigram' là 3 từ, v.v. N-grams được sử dụng rộng rãi trong NLP cho nhiều tác vụ như mô hình ngôn ngữ, phân loại văn bản, và tìm kiếm thông tin.

Sarcasm (mỉa mai) và irony (châm biếm) là thách thức lớn cho NLP vì chúng sử dụng ngôn ngữ mà ý nghĩa bề mặt (literal meaning) thường trái ngược với ý nghĩa thực sự (intended meaning). Để hiểu được sarcasm và irony, mô hình cần có khả năng suy luận ngữ cảnh, nhận biết dấu hiệu ngôn ngữ đặc biệt, và hiểu được ý định của người nói/viết, điều này vượt xa khả năng xử lý ngôn ngữ thông thường.

Perplexity là một độ đo phổ biến để đánh giá hiệu suất của mô hình ngôn ngữ. Nó đo lường mức độ 'bối rối' của mô hình khi dự đoán chuỗi văn bản. Perplexity càng thấp, mô hình càng tự tin và dự đoán càng tốt, do đó mô hình ngôn ngữ tốt thường có perplexity thấp.

Topic modeling (mô hình hóa chủ đề) là một kỹ thuật thống kê trong NLP để khám phá và trích xuất các chủ đề ẩn (latent topics) từ một tập hợp lớn các văn bản (corpus). Nó giúp tổ chức và hiểu thông tin trong khối lượng lớn văn bản bằng cách nhóm các văn bản có chủ đề tương tự lại với nhau.

Mô hình ngôn ngữ được huấn luyện để hiểu cấu trúc và quy luật của ngôn ngữ, từ đó có khả năng dự đoán từ hoặc chuỗi từ tiếp theo có khả năng xuất hiện trong một văn bản. Đây là nền tảng cho nhiều ứng dụng NLP như tự động hoàn thành văn bản, dịch máy, và tạo sinh văn bản.

Tiếng Việt có sự đa dạng lớn về phương ngữ và cách diễn đạt vùng miền, điều này tạo ra thách thức lớn cho NLP trong việc xử lý và hiểu ngôn ngữ một cách thống nhất trên cả nước. Mặc dù các yếu tố khác như dữ liệu huấn luyện cũng quan trọng, nhưng tính đa dạng phương ngữ là một đặc điểm nổi bật gây khó khăn riêng cho tiếng Việt so với tiếng Anh.

Phương pháp Bag-of-Words (BoW) biểu diễn văn bản bằng cách tạo ra một vector tần số từ. Nó bỏ qua thứ tự từ và chỉ quan tâm đến số lần xuất hiện của mỗi từ trong văn bản. Mỗi chiều của vector tương ứng với một từ trong từ vựng, và giá trị của chiều đó là tần số xuất hiện của từ đó trong văn bản.