交通工具简笔画matlab定义单位列向量，列向量互信息计算通⽤MATLAB代码互信息的定义
正式地，两个离散随机变量 X 和 Y 的互信息可以定义为：
其中 p(x,y) 是 X 和 Y 的联合概率分布函数，⽽p(x)和p(y)分别是 X 和 Y 的边缘概率分布函数。
其中 p(x,y) 当前是 X 和 Y 的联合概率密度函数，⽽p(x)和p(y)分别是 X 和 Y 的边缘概率密度函数。
互信息量I(xi;yj)在联合概率空间P(XY)中的统计平均值。 平均互信息I(X;Y)克服了互信息量I(xi;yj)的随机性，成为⼀个确定的量。如果对数以2 为基底，互信息的单位是bit。
直观上，互信息度量 X 和 Y 共享的信息：它度量知道这两个变量其中⼀个，对另⼀个不确定度减少的程度。例如，如果 X 和 Y 相互独⽴，则知道 X 不对 Y 提供任何信息，反之亦然，所以它们的互信息为零。在另⼀个极端，如果 X 是 Y 的⼀个确定性函数，且 Y 也是 X 的⼀个确定性函数，那么传递的所有信息被 X 和 Y 共享：知道 X 决定 Y 的值，反之亦然。因此，在此情形互信息与 Y(或 X)单独包含的不确定度相同，称作 Y(或 X)的熵。⽽且，这个互信息与 X 的熵和 Y 的熵相同。(这种情形的⼀个⾮常特殊的情况是当 X 和 Y 为相同随机变量时。)
马服子
此外，互信息是⾮负的(即 I(X;Y) ≥ 0; 见下⽂)，⽽且是对称的(即 I(X;Y) = I(Y;X))。
通⽤MATLAB代码
主函数main.m
clc
u1 = rand(4,1);
u2 = [2;32;6666;5];
wind_size = size(u1,1);
mi = calmi(u1, u2, wind_size);
calmi.m
%计算两列向量之间的互信息
%u1：输⼊计算的向量1
%u2：输⼊计算的向量2
oppo如何刷机%wind_size：向量的长度
function mi = calmi(u1, u2, wind_size)
x = [u1, u2];
n = wind_size;
[xrow, xcol] = size(x);
bin = zeros(xrow,xcol);
pmf = zeros(n, 2);
for i = 1:2
minx = min(x(:,i));
maxx = max(x(:,i));
binwidth = (maxx - minx) / n;
edges = minx + binwidth*(0:n);
histcEdges = [-Inf edges(2:end-1) Inf];
[occur,bin(:,i)] = histc(x(:,i),histcEdges,1); %通过直⽅图⽅式计算单个向量的直⽅图分布
pmf(:,i) = occur(1:n)./xrow;依然爱你吉他谱
茴香豆end
克服困难英语
%计算u1和u2的联合概率密度
jointOccur = accumarray(bin,1,[n,n]); %(xi，yi)两个数据同时落⼊n*n等分⽅格中的数量即为联合概率密度jointPmf = jointOccur./xrow;
Hx = -(pmf(:,1))'*log2(pmf(:,1)+eps);
美好时光Hy = -(pmf(:,2))'*log2(pmf(:,2)+eps);
Hxy = -(jointPmf(:))'*log2(jointPmf(:)+eps);
MI = Hx+Hy-Hxy;
mi = MI/sqrt(Hx*Hy);
>适合方脸的发型女
