Conditional multivariate mutual information measures

Abstract

Thông tin tương hỗ (Mutual Information-MI) giữa hai biến đã được sử dụng để phát hiện mối quan hệ giữa hai biến; khi độ đo này lớn thì sự phụ thuộc giữa hai biến cũng lớn và ngược lại. Tuy nhiên, thông tin tương hỗ lại không cho ta biết mối quan hệ giữa các biến là trực tiếp hay gián tiếp. Để phát hiện quan hệ tương hỗ là trực tiếp hay gián tiếp, chúng ta có thể sử dụng thông tin tương hỗ có điều kiện đối với biến thứ ba (Conditional Mutual Information-CMI). Trong các nghiên cứu trước đây, chúng tôi đã đề xuất các độ đo thông tin tương hỗ đa biến. Có rất nhiều độ đo thông tin tương hỗ khi số biến nhiều hơn hai, mỗi độ đo thể hiện một loại quan hệ có thể tồn tại giữa các biến. Tuy nhiên, cũng như thông tin tương hỗ của hai biến, các độ đo thông tin tương hỗ đa biến chỉ cho ta biết tồn tại hay không một mối quan hệ đa biến; nhưng không cho ta biết mối quan hệ tương hỗ đó là trực tiếp hay gián tiếp. Trong nghiên cứu này, chúng tôi đề xuất các độ đo thông tin tương hỗ đa biến có điều kiện và sử dụng chúng để phát hiện các mối quan hệ đa biến là trực tiếp hay gián tiếp thông qua biến điều kiện.