20世纪30年代开始,香农给出了信息的定义,说信息本身并没有意义,但是翻译信息的人由于本身的背景对信息有自己的解释,由于信息的存在,减少了不确定性,这就是信息的本质。由此,香农完全避开了信息的意义这个"漫长的工程学无解的道路",直接用数学符号和计算来处理信息以及信息的不确定性计量,信息论从此变成一个独立的科学。