Họ phân phối mũ (exponential family) được chứng minh là có khả năng xấp xỉ phổ quát, nghĩa là họ này có thể xấp xỉ một cách chính xác bất kỳ phân phối xác suất nào trên không gian thích hợp, với độ chính xác tùy ý. Điều này dựa trên các tính chất của không gian hàm sinh ra bởi họ phân phối mũ và các kỹ thuật xấp xỉ khác nhau như xấp xỉ Kullback-Leibler (KL). ...
Xử Lý Phân Phối Lớp Tiềm Ẩn Trong VAE # Trong mô hình Variational Autoencoder (VAE), việc so sánh phân phối hậu nghiệm \( q(z|x) \) với phân phối tiên nghiệm \( p(z) \) là một trong những bước quan trọng để đảm bảo rằng các biến tiềm ẩn \( z \) được học có sự tương đồng với phân phối tiên nghiệm. Tuy nhiên, trong nhiều trường hợp, đặc biệt là khi không biết trước chính xác phân phối của lớp tiềm ẩn \( z \), chúng ta cần sử dụng các kỹ thuật khác để xử lý vấn đề này. ...
Identifiable VAE (iVAE) [1] là một biến thể của mô hình Variational Autoencoder (VAE) với mục tiêu chính là làm cho mô hình này trở nên “có thể nhận dạng được” (identifiable). Điều này có nghĩa là iVAE có khả năng đảm bảo rằng các biến tiềm ẩn \(z\) mà nó học được là duy nhất (up to permutation), không bị ảnh hưởng bởi các biến đổi không mong muốn như sự hoán vị (permutation) hoặc biến đổi phi tuyến (nonlinear transformation). ...
Autoencoder (AE) và Variational Autoencoder (VAE) là hai loại mô hình học sâu được sử dụng rộng rãi trong các nhiệm vụ như giảm chiều dữ liệu, phát hiện bất thường, và tạo sinh dữ liệu mới. Mặc dù cả hai đều được thiết kế để học một biểu diễn tiềm ẩn (latent representation) của dữ liệu đầu vào, nhưng chúng khác nhau ở một số điểm quan trọng. 1. Autoencoder (AE) # Cấu trúc: ...
Phân phối Tiên Nghiệm và Hậu Nghiệm # Trong bối cảnh thống kê Bayes và các mô hình học sâu như Variational Autoencoder (VAE) hoặc iVAE, hai khái niệm phân phối tiên nghiệm (prior distribution) và phân phối hậu nghiệm (posterior distribution) thường được sử dụng để mô tả sự không chắc chắn và cách thông tin mới được tích hợp vào mô hình. Dưới đây là giải thích chi tiết về hai khái niệm này: ...
Trong xử lý tín hiệu, khái niệm stationary (ổn định) và non-stationary (không ổn định) được sử dụng để mô tả tính chất của tín hiệu theo thời gian. Tín hiệu ổn định (Stationary Signal) # Tín hiệu được gọi là ổn định khi các đặc tính thống kê của nó không thay đổi theo thời gian. Các đặc tính thống kê bao gồm trung bình, phương sai và các hàm tương quan. ...
Autocorrelation là một khái niệm trong thống kê và xử lý tín hiệu dùng để đo lường mức độ tương quan của một tín hiệu với chính nó tại các khoảng thời gian trễ khác nhau. Nói cách khác, autocorrelation xác định mức độ tương tự của tín hiệu tại một thời điểm so với các thời điểm trước đó. Công thức # Autocorrelation của một tín hiệu \( x(t) \) tại một khoảng thời gian trễ \( \tau \) được định nghĩa như sau: ...
Khái niệm # Phân tích thành phần độc lập (ICA) là một kỹ thuật thống kê và tính toán được sử dụng trong học máy để tách tín hiệu đa biến thành các thành phần không phải Gaussian độc lập của nó. Mục tiêu của ICA là tìm ra một phép biến đổi tuyến tính của dữ liệu sao cho dữ liệu được chuyển đổi càng gần độc lập về mặt thống kê càng tốt. ...