Đề thi, bài tập trắc nghiệm online Học máy – Đề 13

Exploitation là việc agent sử dụng kiến thức đã học được (thường là chính sách hiện tại) để lựa chọn hành động mà nó tin là sẽ mang lại phần thưởng cao nhất trong trạng thái hiện tại. Ngược lại, exploration là việc thử nghiệm các hành động mới, có thể không tối ưu ở thời điểm hiện tại, để khám phá các cơ hội tốt hơn trong tương lai.

TF-IDF là một kỹ thuật thống kê dùng để đo lường tầm quan trọng của một từ trong một văn bản so với một tập hợp văn bản lớn (corpus). Nó kết hợp tần suất xuất hiện của từ trong văn bản (TF) với tần suất nghịch đảo của văn bản chứa từ đó trong corpus (IDF), giúp xác định những từ quan trọng và đặc trưng cho từng văn bản.

Sau khi thu thập dữ liệu, bước tiếp theo thường là tiền xử lý dữ liệu. Bước này bao gồm các công việc như làm sạch dữ liệu (xử lý dữ liệu bị thiếu, nhiễu), chuyển đổi dữ liệu (ví dụ: feature scaling), và trích xuất đặc trưng (feature engineering), để chuẩn bị dữ liệu cho quá trình huấn luyện mô hình.

Giảm độ phức tạp của mô hình (ví dụ: giảm số lượng lớp trong mạng nơ-ron, sử dụng kỹ thuật regularization) là một cách hiệu quả để ngăn chặn overfitting. Các phương pháp khác như tăng dữ liệu huấn luyện hoặc regularization cũng có thể giúp, nhưng giảm độ phức tạp mô hình trực tiếp giải quyết vấn đề mô hình học quá chi tiết.

Dropout là một kỹ thuật regularization hiệu quả để giảm overfitting trong mạng nơ-ron. Bằng cách ngẫu nhiên 'dropout' (tắt) một số nơ-ron trong quá trình huấn luyện, dropout ngăn chặn các nơ-ron trở nên quá phụ thuộc vào nhau và khuyến khích mạng học các đặc trưngRobust hơn.

Learning rate quá cao có thể khiến thuật toán gradient descent 'nhảy' qua cực tiểu cục bộ của hàm mất mát. Thay vì hội tụ về cực tiểu, quá trình huấn luyện có thể trở nên không ổn định, dao động và thậm chí phân kỳ.

Sự khác biệt cốt lõi nằm ở dữ liệu đầu vào. Học có giám sát sử dụng dữ liệu đã được gán nhãn (ví dụ: đầu vào và đầu ra mong muốn), trong khi học không giám sát làm việc với dữ liệu chưa được gán nhãn và tìm ra cấu trúc ẩn trong dữ liệu.

K-Means Clustering là một thuật toán phân cụm, thuộc loại học không giám sát. Nó tìm cách phân nhóm dữ liệu thành các cụm dựa trên sự tương đồng về đặc trưng, mà không cần nhãn dữ liệu trước.

L1 regularization thêm tổng giá trị tuyệt đối của các tham số vào hàm mất mát, trong khi L2 regularization thêm tổng bình phương của các tham số. L1 regularization có tính năng chọn đặc trưng, tức là nó có xu hướng làm cho một số tham số bằng 0, tạo ra mô hình thưa thớt và có thể được sử dụng để lựa chọn đặc trưng.

Regularization là một tập hợp các phương pháp nhằm ngăn chặn overfitting bằng cách thêm một hình phạt vào hàm mất mát. Hình phạt này thường liên quan đến độ lớn của các tham số mô hình, khuyến khích mô hình đơn giản hơn và ít phức tạp hơn, từ đó khái quát hóa tốt hơn trên dữ liệu mới.

AUC-ROC (Area Under the Receiver Operating Characteristic curve) là một độ đo hiệu suất quan trọng và phổ biến cho bài toán phân loại nhị phân. Nó thể hiện khả năng của mô hình phân biệt giữa hai lớp (dương tính và âm tính) ở các ngưỡng phân loại khác nhau.

Curse of dimensionality mô tả các vấn đề phát sinh khi làm việc với dữ liệu trong không gian nhiều chiều. Khi số chiều tăng lên, dữ liệu trở nên thưa thớt hơn, khoảng cách giữa các điểm dữ liệu trở nên kém phân biệt hơn, và nhiều thuật toán học máy (đặc biệt là các thuật toán dựa trên khoảng cách) có thể hoạt động kém hiệu quả hơn.

Feature engineering là quá trình quan trọng trong học máy, liên quan đến việc sử dụng kiến thức về lĩnh vực và dữ liệu để tạo ra các đặc trưng mới, có ý nghĩa và phù hợp hơn cho thuật toán học máy. Các đặc trưng được thiết kế tốt có thể cải thiện đáng kể hiệu suất của mô hình.

Overfitting xảy ra khi mô hình học quá chi tiết dữ liệu huấn luyện, bao gồm cả nhiễu, dẫn đến việc mô hình hoạt động kém khi gặp dữ liệu mới, chưa từng thấy.

Hàm kích hoạt là thành phần quan trọng của mạng nơ-ron, giới thiệu tính phi tuyến vào mạng. Nếu không có hàm kích hoạt phi tuyến, mạng nơ-ron sâu sẽ chỉ tương đương với một mạng nơ-ron tuyến tính đơn giản, hạn chế khả năng học các mẫu phức tạp.

Mô hình đơn giản có thể phù hợp hơn khi dữ liệu ít, mối quan hệ đơn giản, và khi khả năng diễn giải mô hình quan trọng. Mô hình phức tạp có thể overfitting trên dữ liệu nhỏ và khó diễn giải hơn. Nếu mối quan hệ gần tuyến tính, hồi quy tuyến tính có thể đủ tốt và dễ hiểu hơn mạng nơ-ron sâu.

RNNs được thiết kế đặc biệt để xử lý dữ liệu tuần tự, nơi mà thứ tự của dữ liệu quan trọng. Chúng có khả năng ghi nhớ thông tin từ các bước thời gian trước đó, làm cho chúng phù hợp cho các tác vụ như xử lý ngôn ngữ tự nhiên, dự báo chuỗi thời gian và nhận dạng giọng nói.

Backpropagation là thuật toán cốt lõi trong huấn luyện mạng nơ-ron, được sử dụng để tính gradient của hàm mất mát đối với trọng số của mạng. Gradient này sau đó được sử dụng để cập nhật trọng số thông qua các thuật toán tối ưu hóa (ví dụ: Gradient Descent), nhằm giảm thiểu lỗi dự đoán của mạng.

Precision đo lường tỷ lệ dự đoán dương tính thực sự là dương tính. Công thức là TP / (TP + FP), trong đó TP là True Positives (dương tính thực sự) và FP là False Positives (dương tính sai).

Random Forest là một thuật toán ensemble dựa trên cây quyết định. Nó xây dựng nhiều cây quyết định và tổng hợp kết quả của chúng để đưa ra dự đoán cuối cùng. SVM, KNN và Linear Regression không phải là thuật toán dựa trên cây quyết định.

Feature scaling giúp đưa các đặc trưng về cùng một thang đo. Điều này quan trọng vì nhiều thuật toán học máy nhạy cảm với khoảng giá trị của đặc trưng và có thể bị chi phối bởi các đặc trưng có giá trị lớn hơn. Feature scaling giúp thuật toán hội tụ nhanh hơn và hoạt động hiệu quả hơn.

Điểm khác biệt chính là cách thức huấn luyện các mô hình thành viên. Bagging (ví dụ: Random Forest) huấn luyện các mô hình độc lập song song trên các tập con dữ liệu được lấy mẫu ngẫu nhiên có hoàn lại. Boosting (ví dụ: AdaBoost, Gradient Boosting) huấn luyện các mô hình yếu tuần tự, trong đó mỗi mô hình sau cố gắng sửa lỗi của các mô hình trước đó, tập trung vào các mẫu dữ liệu bị phân loại sai.

F1-score là trung bình điều hòa của Precision (Độ chính xác) và Recall (Độ phủ). Nó cung cấp một độ đo tổng quan về hiệu suất của mô hình phân loại, đặc biệt hữu ích khi có sự mất cân bằng lớp (imbalanced classes).

Gradient descent là một thuật toán tối ưu hóa quan trọng trong học máy. Nó được sử dụng để tìm cực tiểu cục bộ của hàm mất mát bằng cách lặp đi lặp lại di chuyển theo hướng ngược lại với gradient của hàm mất mát. Trong ngữ cảnh học máy, nó thường được dùng để cập nhật tham số mô hình.

Word embedding là kỹ thuật biểu diễn từ ngữ thành các vector số trong không gian vector đa chiều. Các vector này được học sao cho các từ có nghĩa tương tự nhau sẽ có vị trí gần nhau trong không gian vector, giúp các mô hình học máy có thể hiểu được ngữ nghĩa và quan hệ giữa các từ.

Bias cao xảy ra khi mô hình quá đơn giản và đưa ra các giả định mạnh mẽ về dữ liệu. Điều này dẫn đến việc mô hình không thể nắm bắt được các mẫu phức tạp trong dữ liệu huấn luyện, gây ra underfitting - mô hình hoạt động kém cả trên dữ liệu huấn luyện và dữ liệu kiểm thử.

PCA là một kỹ thuật giảm chiều dữ liệu tuyến tính. Mục tiêu của PCA là tìm ra một tập hợp các thành phần chính (principal components) mới, là các tổ hợp tuyến tính của các đặc trưng ban đầu, sao cho các thành phần chính này nắm bắt được phần lớn phương sai của dữ liệu. Bằng cách giảm số chiều xuống số lượng thành phần chính được chọn, PCA giúp giảm độ phức tạp và có thể cải thiện hiệu suất của mô hình trong một số trường hợp.

CNNs được thiết kế để xử lý dữ liệu dạng lưới, đặc biệt là hình ảnh. Các lớp tích chập (convolutional layers) trong CNNs có khả năng học các đặc trưng không gian từ hình ảnh, làm cho chúng rất hiệu quả trong các tác vụ thị giác máy tính như nhận dạng đối tượng, phân loại hình ảnh và phát hiện đối tượng.

Mục tiêu chính của agent trong Reinforcement Learning là học một chính sách (policy) để đưa ra các hành động trong môi trường sao cho tối đa hóa tổng phần thưởng tích lũy theo thời gian. Agent học thông qua tương tác với môi trường và nhận phần thưởng (hoặc phạt) cho các hành động của mình.

Cross-validation là kỹ thuật đánh giá hiệu suất mô hình một cách tin cậy bằng cách chia dữ liệu thành nhiều phần, huấn luyện trên một số phần và kiểm tra trên phần còn lại, lặp lại quá trình này để có ước tính tổng quan về hiệu suất trên dữ liệu mới.