1844年（清道光十四年）出生于江蘇丹徒（今鎮(zhèn)江）。字眉叔。少年時代一再隨家遷徙，后定居上海。受西方資本主義影響，為探求中外“得失之故”，拋棄科舉道路，專門研究西學(xué)。1870年（同治九年），經(jīng)二哥馬建勛引薦，佢也成為李鴻章的幕僚，隨辦洋務(wù)。因為熟悉西洋文化和語言，他受到李鴻章的賞識。1870年以后，馬建忠、王韜、鄭觀應(yīng)、薛福成等人，主張在學(xué)習(xí)西方先進(jìn)科學(xué)技術(shù)的同時，還要吸納某些政治、經(jīng)濟(jì)學(xué)說。他們反對列強侵略，維護(hù)民族獨立、國家主權(quán)，主張變革封建專制制度、發(fā)展民族工商業(yè)，具有一定程度的反封建的民主思想，對當(dāng)時的中國社會產(chǎn)生了廣泛的影響。1876年（光緒二年），他以郎中資格被李鴻章派往法國學(xué)習(xí)國際法，同時兼任中國駐法公使郭嵩燾的翻譯。這年馬建忠如愿以償，考取公費留學(xué)法國，研究西方各國文字。他一邊讀書，一邊兼任駐法公使館的法文翻譯。由于有了兩份收入，不但學(xué)業(yè)無憂，而且有了余錢養(yǎng)家。1877年（光緒三年），他通過了巴黎考試院的文科和理科考試，成為第一個取得法國高中會考畢業(yè)證書（fr:Baccalauréat）的中國人。1879年（光緒五年），他取得政治私立學(xué)校（fr:école libre des sciences politiques，巴黎政治學(xué)院前身）法學(xué)學(xué)位（fr:licence de droit）。他經(jīng)過勤學(xué)苦練，在36歲時得了博士學(xué)位，9月回國。李鴻章獲悉后專函聘他入幕，馬建忠9月中旬開始投身到李總督府門下，成了李鴻章辦理外交與洋務(wù)的左右手。 曾去印度、朝鮮處理外交事務(wù)。并任輪船招商局會辦、上海機器織布局總辦。1880年（光緒六年），馬建忠回到天津，重新在李鴻章幕下辦理洋務(wù)。1881年，受李鴻章差遣赴印度同英國人談判鴉辦專售事宜。在談判中，馬建忠提出“鴉片流毒，中外騰謗，當(dāng)寓禁于征，不可專重稅收”。他的觀點贏得英國人的同情，“雖未遽許”，但英人“皆稱其公”。1881年受命前往遼東勘察，為北洋水師船塢選址，所選即后來著名的“旅順大塢”。他曾幾度去朝鮮、印度辦理外交事務(wù)?！坝捎谒麑ξ鞣骄哂袩o與匹敵的知識，迅速成為李鴻章最器重的外交顧問”。1882年，朝鮮發(fā)生政變，清廷派馬建忠、丁汝昌、吳長慶等帶兵前去助朝鮮“平亂”。他去朝鮮，協(xié)助朝鮮政府與英、美、德簽訂商約。同年朝鮮發(fā)生壬午兵變，閔妃請求清朝出兵，直隸總督張樹聲和李鴻章派淮軍將領(lǐng)吳長慶平亂。馬建忠設(shè)下誘擒叛亂頭目之計，參與了抓捕大院君李昰應(yīng)的行動。同年10月18日，李鴻章派馬建忠赴天津與法國公使寶海達(dá)成越事草案三條，即中國撤兵、通商、中法分巡紅河南北。1882年（光緒八年），朝鮮使臣樸泳孝和金玉均即將出使日本，臨行前向清朝政府請求將中國的龍旗作為國旗使用，清朝回復(fù)稱藩屬國不能用五爪龍旗只能用四爪龍旗。其時奉李鴻章之命出使朝鮮的中國使節(jié)馬建忠建議朝鮮政府采用中國傳統(tǒng)的太極八卦旗作為國旗使用，這個建議得到了朝鮮政府的采納。1884年（光緒十年），馬建忠加入唐庭樞主持的輪船招商局。中法戰(zhàn)爭后，他升任輪船招商局會辦。1884年，馬建忠出任上海輪船招商局會辦。迫于中法戰(zhàn)爭形勢，由他策劃并經(jīng)手，招商局產(chǎn)業(yè)轉(zhuǎn)至美資“其昌洋行”名下；但事后此舉招致多方指責(zé)，他甚至被戴上“漢奸”帽子，險遭殺身之禍。后奉旨進(jìn)京接受審查，“幸無事”。1885年，他向李鴻章建議借外債以興實業(yè)、建海軍。又相繼撰文，提倡設(shè)工廠，開礦山，行輪船，筑鐵路，廢厘金，興商務(wù)。其間，曾任上海織布局總辦。1890年（光緒十六年），馬建忠開始撰寫《富民說》，主張發(fā)展對外貿(mào)易、扶持民間工商業(yè)等措施以富民強國，并將《富民說》上呈李鴻章。不久，受李鴻章委派擔(dān)任上海機器織布局總辦，旋因資金周轉(zhuǎn)等問題去職回籍。1890年后，馬多年閑居上海，著書立說，但“仍是李鴻章幕府要人”。他曾建議設(shè)翻譯書院，后充任該院洋文教習(xí)。1895年，他隨李鴻章赴日談判簽定“馬關(guān)條約”。庚子之亂期間，李被慈禧任命為“與八國聯(lián)軍議和大臣”，馬隨赴上海行轅，襄理機要。1895年（光緒廿一年），甲午戰(zhàn)爭失敗后，他應(yīng)李鴻章之邀到北京，襄助李鴻章赴日本馬關(guān)議和。1896年，馬建忠與上?！稌r務(wù)報》主筆梁啟超相識，并出版了《適可齋記言記行》。1898年，馬建忠一直整理《文通》一書（光緒廿四年）出版。該書以西方語文的語法為本，對照從古書中精選的例句，研究古漢語的語法規(guī)律，創(chuàng)建了一套漢語的語法體系，是奠定漢語語法學(xué)基礎(chǔ)的開山之作，對后世漢語語法研究產(chǎn)生了巨大影響。1900年（光緒廿六年），馬建忠再度應(yīng)李鴻章之召，任上海行轅襄理機要。8月14日，因趕譯長篇急電而猝然去世，終年55歲。