1847年10月1日，維爾納·馮·西門子（Werner von Siemens）在其發明的使用指針是來指出字母順序而不是摩爾斯電碼的電報技術基礎上建立了公司。公司隨后被稱為Telegraphen-Bauanstalt von Siemens & Halske。1848年，公司建造了歐洲第一條遠距離電報線，從柏林到法蘭克福跨度為500公里。1850年，創始人的弟弟，卡爾·威廉·西門子（Carl Wilhelm Siemens）在倫敦設立代表處。

十九世紀五十年代，公司參與了俄羅斯遠距離電報網絡的建設工作。1855年，創始人的另一個弟弟卡爾·海因里希·馮·西門子（Carl Heinrich von Siemens）在圣彼得堡建立了一個新的分支機構。公司不斷地成長并開始涉足電氣列車和燈泡。1890年，創始人退休，把公司留給了他的弟弟卡爾·海因里希和兩個兒子阿諾德·西門子（Arnold von Siemens）以及喬治·威廉·西門子（Georg Wilhelm von Siemens）。

1897年，西門子和哈爾斯克（Halske）聯合成立了公司S&H。1919年，S&H和其它兩家公司共同成立了歐司朗燈泡公司（Osram Lightbulb Company）。1923年，成立了日本分公司。二戰期間在二十世紀二十年代至三十年代之間，S&H開始生產收音機、電視機和電子顯微鏡。

在第二次世界大戰之前，S&H被卷入了德國的秘密戰備。在1937年至1938年間（日軍對南京城進行南京大屠殺），德國西門子公司駐南京辦事處經理拉貝以自己時任德國國家社會主義工人黨（納粹黨）南京分部副部長的特殊身份，在中國南京建立南京戰時安全區，并出任安全區委員會主席，保護了約25萬中國平民，被稱為“活菩薩”、“中國的辛德勒”。戰后發展在二十世紀五十年代，S&H開始生產計算機、半導體設備、洗衣機和心臟起搏器。1966年，西門子股份公司（Siemens AG）成立。

1967年，西門子股份公司和羅伯特·博世有限公司成立主要生產白色家電的合資企業博西家用電器公司（BSH），后成為德國和西歐家電市場的領導者。1980年，公司的第一臺數字電話交換機下線。1988年，西門子和通用電氣收購英國防務和技術公司Plessey。因為Plessey公司的持有人分裂，因此西門子接收了其航空電子、雷達和交通控制部分，并更名為Siemens Plessey。

九十年代1990年，西門子收購了陷入困境的利多富（Nixdorf）計算機公司并更名為西門子利多富信息系統股份公司（Siemens Nixdorf Informations System AG）。這家公司在Gerhar Schumeyer的領導下已經開始盈利。1997年，西門子推出了第一款彩屏GSM便攜式電話。同樣在1997年，西門子同英國宇航公司（British Aerospace）和DASA達成協議向他們提供Siemens Plessey生產的防務裝備。

英國宇航公司和DASA分別負責英國和德國的軍事裝備的采購。1999年，西門子的半導體業務分離出來，成立了一家新的公司英飛凌科技公司。同年，西門子利多富信息系統股分公司成為了富士通-西門子電腦公司的一部分。2004年，西門子移動向市場推出65系列移動電話，良好的用戶界面，人性化的操作，實用的功能設計使65系列手機廣泛受到歡迎，但由于軟件問題使得西門子手機不得不招回，并在一年后的收購埋下了伏筆.2005年，臺灣的明基公司收購了西門子陷入財政危機的移動電話公司并排他性地獲得了五年使用西門子商標的權利，全名為BenQ-Siemens。

在將移動電話公司轉讓給明基之前，西門子投入了2.5億歐元并注銷了總值為1億歐元的資產。西門子同樣獲得了明基5%約為5000萬歐元的股份。2006年10月30日，西門子公司在北京宣布成立西門子中國研究院。西門子卷入一場金額巨大的賄賂案，遠超4.26億歐元，導致現任首席執行官Klaus Kleinfeld辭職。

進入中國1872年：西門子成立25年之后，即1872年，和中國開始了業務往來。西門子在中國的第一筆訂單是向中國提供指針式電報機，這標志著中國現代電信事業的開展。1879年：西門子接到一筆來自中國政府的“照明設備”訂單。西門子提供了一臺10馬力的蒸汽發電機，用于上海港的照明，大大提高了港口的工作效率。

維爾納·馮西門子在1879年11月3日給弟弟卡爾的書信中提到，他非常有信心，中國將很快從西門子訂購照明設備。1899年：由于害怕引起火災，連結京津兩地的蒸汽機火車不得通過京城。于是，西門子在北京建設了中國第一條有軌電車。這條電車軌道連接北京城外的馬家堡和城內的哈德門。

同年，西門子在北京建設了中國第一家發電廠，為城區照明以及電車軌道提供電力。1904年：在華業務的迅速拓展，推動西門子在上海設立了第一家永久辦事處，這是西門子在華業務的重要里程碑。1910年：西門子創建西門子中國電氣工程公司，總部位于柏林，分支機構設在上海。在接下來的四年中，西門子將業務擴展到北京、廣州、武漢、哈爾濱、香港、青島和天津。

1914年，公司更名為西門子中國公司（上海）。西門子的在華業務，尤其是電力領域的業務，在20世紀初發展迅速。西門子擴建了北京近郊的石景山發電廠。1921年：西門子開始在山東省棗莊實施中興煤礦公司的電氣化工程，該工程被稱為中國第一個現代化采礦工程。

1937年：在日本侵華，進行南京大屠殺期間，建立國際安全區，并出任安全區委員會主席，保護了約25萬中國人。1972年：德意志聯邦共和國與中華人民共和國建立外交關系。這一歷史性的事件為西門子和中國恢復傳統友誼鋪平了道路，并為未來合作的發展和繁榮奠定了基礎。1972年，西門子制造的病房監測系統被當作禮物贈給中國。

1978年12月，西門子首次在上海舉行“電氣電子技術博覽會”。西門子公司當時的監理會主席，公司創始人維爾納·馮·西門子之曾孫彼得·馮·西門子親自前往上海，與上海市領導人一起為博覽會剪彩。39,000多名工業的技術專家和來賓以極大的熱情參觀了博覽會。1984年：西門子為中國建設了第一條高壓直流輸電線。

這條輸電線可以將1,200兆瓦的電力從位于長江中游的當時中國最大的水力發電站——葛洲壩水電站輸送到遠在千里之外的上海市。此項工程于1989年竣工，標志著西門子對中國高壓直流電力的傳輸作出了巨大的貢獻，同時也顯示了西門子在安裝高技術設備方面的專業性及其產品的可靠性。1985年是西門子與中國開展合作的里程碑。1985年10月29日，雙方在北京簽署《西門子公司與中華人民共和國在機械工業、電氣工程和電子工業等領域開展合作的備忘錄》。

西門子是第一家應邀與中國進行如此深入合作的外國企業。1987年，西門子公司開始了與中國建立合資廠的探索。1988年10月31日，西門子達成在中國建立第一家生產型企業的協議，生產數字公共電話交換系統(EWSD)。隨后，北京國際交換系統有限公司(BISC)于1990年11月宣告成立，以滿足中國不斷增長的公共電話系統的需求。

1988年，西門子決定建立一家生產計算機斷層掃描系統(CT)的合資廠。這份協議最終促成了西門子醫療器械有限公司于1992年成立，這是西門子在德國以外成立的第一家CT生產基地。1995年，西門子（中國）有限公司在武漢、福州和廣州建立了西門子在中國最早的3個地區辦事處。西門子同年在中國建立了13個運營公司。

同年7月，時任中國國家主席江澤民在訪德期間參觀了西門子在慕尼黑的總部。1996年，西門子公司向中國市場推出了首款在中國本土生產的西門子手機S4。1997年10月，西門子專門為與中國125年的合作關系舉辦了慶典。慶典期間，西門子管理學院成立，為員工提供先進的管理培訓、商業和技能研討會、職業和商務教育培訓。

1998年，中國遭遇了百年不遇的特大洪水。西門子及其員工向受災群眾的捐贈超過了450萬元人民幣，幫助他們重建家園。2001年8月，西門子成功生產了第一臺SOMATOM歡星CT機，這是全球結構最緊湊、最經濟有效的CT設備，由中國研發人員與位于德國和美國的西門子醫療系統集團研發中心合作開發。這臺在中國制造的先進CT機同時面向國內及國外市場。

2006年10月，西門子中國研究院在北京正式成立。該研究院和西門子美國研究院成為西門子在德國以外的兩個最大和最重要的研究基地。2007年，上海世博會事務協調局與西門子公司在上海共同簽署協議，西門子公司正式成為“中國2010年上海世博會創新型基礎設施和醫療保健全球合作伙伴”。這是首家獨立成為上海世博會全球合作伙伴的跨國公司。

西門子中心（北京）于2008年9月23日正式開幕。西門子中心（北京）位于北京市東北部望京地區，包括占地面積17,500平方米的總部大樓和兩座五層配樓。這座樓高123米、總投資1億歐元的30層大廈是西門子在全球房地產領域最大的投資項目之一。2013年，西門子發言人表示，作為公司60億歐元（約合81億美元）成本削減計劃的一部分，未來一年公司將裁員1.5萬人，其中德國占1/3。

2014年9月，西門子股份公司和博世集團達成協議：羅伯特·博世公司將收購西門子所持有的合資企業博世和西門子家用電器集團（簡稱博西家電）50%的股份，交易完成后博西家電將成為博世集團的全資子公司，西門子徹底退出家電領域。出售家電業務正是西門子專注于電氣化、自動化和數字化戰略的體現之一。2017年6月6日，《2017年BrandZ最具價值全球品牌100強》公布，西門子名列第77位。。