多変数関数の最大・最小値問題

卒論の中間報告を書いているうちにどうしても多変数関数の最大値問題を避けられなくなった．
ある複数の入力を与えるとある出力が出てくるのだがそれをなるべく早く見つけたい．
既知の関数だったら微分とかすれば極大・極小値が求まって境界条件からどうのこうので導けるっぽいが
出力は入力を与えないと全く分からない．

要するに上記のものを求めたいだけ．
っていうかこれが最大・最小値問題というのか分からないけど・・・
とりあえず最小二乗法とかそれから派生したLevenberg-Marquardt Algorithmなんてものがあるらしいがさっぱりわからん．