信息论基础概念详解：从信源到纠错码

信源：产生信息的物理或逻辑源头。
符号：表示信息的基本单位，例如二进制数码。
概率：指某一事件发生的可能性大小。
信息熵：度量信息的不确定性或随机性大小的量。信息熵越大，信息越随机或不确定。
信道：信息传输的物理通路或逻辑通道。
信噪比：表示信号与噪声的比例，决定了信息传输的质量。
码率：表示每秒传输的信息量，通常用比特/秒（bps）来衡量。
纠错码：为了保证信息传输的可靠性而加入的冗余信息。可以通过纠错码来检测和纠正传输过程中的错误。