幕臣中の秀才と目されていた小栗は、33歳のとき、時の大老・井伊直弼に認められ、日米修好通商条約の批准書交換のため遣米使節の目付に抜擢されました。使節の一行は米軍艦ポウハタン号に乗船して渡米、ワシントンで条約批准書の交換、その後に海軍造船所、金貨鋳造所などを見学、帰路は大西洋を横断、喜望峰をまわり、インド洋を経て、実に8ヶ月かかって日本へ帰ってきました。
小栗が地球一周の旅を終えて帰国したとき、彼を送り出した井伊大老は桜田門外で暗殺されていました。国内は攘夷論が真っ盛りで、開国論を口にする者はいませんでした。しかし、小栗はただ一人、アメリカの文明の先進さを説明し、日本も欧米を模範として近代化をはからなければならないと訴えました。
帰国後、彼は外国奉行に任ぜられ、ロシア艦隊の対馬占領事件には、幕府代表として外交折衝にあたりました。その後、勘定・江戸町・歩兵・陸軍・軍艦・海軍の各奉行を歴任し、遣米使節での見聞をもとに、日本近代化の道を開きました。具体的には横須賀造船所の建設、フランス式軍隊の導入と訓練、フランス語学校の設立、滝野反射炉による大砲製造などの業績を残し、そのほか郵便制度の設立、鉄道建設、新聞発行などを提唱しました。
とくに横須賀造船所の建設は、その後の日本の工業化の礎となり、明治45年に東郷平八郎が小栗の遺族らに対し、「日本海海戦で完全勝利を得ることができたのは、小栗さんが造船所を造っていてくれたおかげ」と礼を言ったという逸話があります。
王政復古後の慶応4年(1868年)1月15日、江戸城での和戦決定の会議において、小栗は薩長への主戦論を強硬に主張しましたが、徳川慶喜の怒りに触れて罷免されてしまいます。小栗は「もはや自分の役目は終わった」として、領地である上野国権田村に隠棲帰農することを決意しました。このとき小栗は領地返上も申し出ましたが、「領地返納には及ばず。土着のみ許可する」との沙汰が下されました。
そして小栗は、野にあって新時代にふさわしい人材を育てようと志し、学校開設の計画を打ち出しました。このころ、関東では旧幕府軍と新政府軍の衝突が繰り返され、緊迫した時局にありましたが、小栗は「主君慶喜公が恭順したからには、抗戦しても大義名分がない」として、全く関心を示さず、田畑を開墾し、居宅の新築を進めていました。
ところが、新政府軍は小栗の平和的帰農を許そうとはしませんでした。幕府の要職在任中は反薩長の憎き中心人物であり、またその手腕は彼らにとって大いなる脅威だったのです。彼らは、たえず小栗の動向を注視していました。そして「容易ならざる企てあり」と罪をでっちあげ、ついには追悼令が出されました。小栗は水沼川原で斬に処せられました。
小栗の最期の模様は、次のように伝えられています。新政府軍の軍監・原保太郎から、「何か遺言はないか」と尋ねられた小栗は「ない」と答えて目を閉じました。しかし、再び目を開けて「ひと言ある」と言い、「早く言え」と促されて「老母と妻を逃がした。よろしく寛典を乞う」と言い残しました。「よろしい」と答えた原は、いよいよ小栗の首を斬ろうとしました。
が、しかし小栗が首を直立させたままなのでどうにも斬りにくくてしようがありません。そこで原は、「もっと首を下げろ」と言いながら棒で小栗の腰を突いた。すると、小栗は「無礼者!」と恫喝して原を睨み返しました。その迫力に気おされた原は、三太刀めでやっと首を斬り落したのでした。小栗の享年は42歳。現在、水沼川原には、「偉人小栗上野介罪なくして此所に斬らる」と刻まれた慰霊碑が立っています。