台湾中小企业银行前身系台湾无尽株式会社 于1915年创立，总公司设在台北市。
1976年7月1日改制为台湾中小企业银行股份有限公司，为台湾地区首先创设成立，以提供中小企业融资与辅导为宗旨，拥有完整金融服务功能的专业银行。为顺应自由化与国际化之金融环境，并配合政府推动公营事业民营化政策复于1998年1月22日改制为民营银行。
本行分支机构遍及全台各地，并于海外设有美国洛杉矶分行、香港分行及澳洲悉尼分行及布里斯本分行。本行将在现有基础下继往开来，随时掌握经济脉动，勇于接受挑战，群策群力，秉持进步、效率、责任的经营理念，共同创造美好的愿景，以期无愧先进同仁之缔造与经营之艰辛。