位相空間(topological space)はユークリッド空間などの距離空間を一般化したもので、開集合(open set)が備わったものです。
ユークリッド空間 \mathbb{R} における連続関数 f: \mathbb{R} \to \mathbb{R} は、\epsilon - \delta 論法を用いて
\forall \epsilon > 0\ \exists \delta > 0, |x - x'| < \delta \implies |f(x) - f(x')| < \epsilon
と定義されますが、位相空間における連続関数 f: X \to Y の定義は
任意の開集合 U \subset Y に対して f^{-1}(U) \subset X は開集合である。
となります。なぜ U \implies f(U) ではなく U \implies f^{-1}(U) なのかというと、これを距離空間にあてはめると \epsilon - \delta 論法による定義と完全に一致するからです。
仮に
任意の開集合 U \subset X に対して f(U) \subset Y は開集合である。
と定義してみると、f(x) = 0（すべての点で 0 ）という連続関数とすべての開集合、例えば U = (0, 1) に対して f(U) = \{0\}＝閉集合となり矛盾します。
元の定義であれば、例えば U = (-1, 1) に対して f^{-1}(U) = (-\infty, \infty) は開集合であり矛盾はありません。
距離空間において、位相空間における定義と \epsilon - \delta 論法による定義が一致することは簡単に証明できます。